GPT-6 Astra가 스스로 실수를 저지르고 해결책까지 제시함
GPT-6 Astra invents the mistake and suggests to fix it too
핵심 요약
GPT-6 Astra가 작업을 수행하며 실수를 저지른 뒤, 곧바로 스스로 해결책을 제시하는 현상에 대한 의문 제기.
- 모델의 모순적 행동 — 작업을 잘못 수행한 직후 스스로 오류를 인지하고 수정안을 제시함
- 토큰 낭비 우려 — 불필요한 실수와 수정 과정이 토큰 사용량과 시간을 낭비한다고 지적함
- 기술적 의문 — 모델이 왜 처음부터 올바른 판단을 내리지 못하는지에 대해 사용자들의 경험 공유 요청
요즘 GPT-6 Astra 쓰면서 진짜 짜증 나고 좀 찜찜한 패턴이 계속 보이는데, 혹시 나만 이런 거 겪는 건지 궁금해서 글 써봄.
상황을 설명하자면, 스크린샷에 있는 것처럼 내가 GPT-6 Astra한테 방금 수정한 내용 반영해서 웹 엔드포인트랑 안드로이드 빌드 에뮬레이터에서 돌려달라고 했거든. 딱 그게 다였음. 뭐 엄청 복잡한 것도 아니잖아.
근데 이 새끼가 작업은 끝냈는데 엉뚱한 안드로이드 버전을 실행하더라고.
진짜 문제는 여기서부터임. 내가 실수했다고 말하기도 전에, 지가 저지른 실수를 지가 알아서 고치겠다고 제안하는 거임.
그래서 드는 의문인데, 지가 실수한 걸 스스로 파악할 능력이 있으면 애초에 왜 처음부터 제대로 안 하는 거냐?
이게 한두 번 일어난 일이 아님. 다른 문제들에서도 계속 이런 패턴이 반복되고, 심지어 똑같은 실수가 계속 되풀이될 때도 있음.
더 빡치는 건 이런 불필요한 실수랑 뒤따르는 수정 과정에서 토큰이랑 시간, 사용량 제한만 계속 잡아먹는다는 거임.
이러다 보니 모델 작동 방식 자체가 불필요한 토큰 소모를 유도하는 게 아닌가 하는 의심까지 듦. 이게 꽤 심각한 의혹이라는 건 아는데, 그렇다고 고의라는 증거는 없어도 이런 패턴이 계속 반복되니까 그냥 넘길 문제가 아닌 것 같음.
도대체 왜 모델이 잘못된 짓을 저지른 직후에는 바로 정답을 알아채면서, 정작 처음 실행할 때는 그 논리를 적용 못 하는 건지 진짜 궁금함.
이게 모델 작동 방식의 고질적인 한계인 거냐, 아니면 다른 이유가 있는 거냐?
혹시 나 말고도 Codex나 GPT-6 Astra 쓰면서 이런 현상 계속 겪는 사람 있냐?
다들 경험담이나 의견 좀 공유해주라.
