r/codex•약 4시간 전•26•9
Tibo가 한 달 동안 GPT를 과잉 반응하게 가르쳤다
Tibo spent a month teaching GPT to overreact
핵심 요약
ChatGPT가 최근 업데이트 이후 사소한 프롬프트에도 과하게 반응하며 사용성이 떨어졌다는 비판이 제기되었습니다.
- 과잉 반응 문제 — 일상적인 대화까지 차단하는 등 모델의 안전성 필터가 지나치게 공격적으로 변함
- 사용성 저하 — 잦은 오탐지로 인해 작업 효율이 떨어지고 모델이 퇴보했다는 평가가 지배적임
- 토큰 소모 의혹 — 모델이 작업을 잘게 쪼개어 토큰 사용량을 늘리려 한다는 음모론이 제기됨
- 성능 논란 — 사용자에 따라 모델의 지능 저하와 게으름을 체감하는 정도가 다르게 나타남
Tibo의 28일 챌린지는 ChatGPT가 네 말이 끝나기도 전에 인사팀에 쪼르르 달려가서 고자질하는 꼰대 같은 녀석이 되는 걸로 끝이 났다.
진지하게 말하자면, 이제 이 모델은 평범하기 짝이 없는 프롬프트나 대화까지도 지나치게 공격적으로 차단해대고 있다. 오탐지가 너무 잦아서 안전성이 개선된 게 아니라 오히려 사용성만 퇴보한 느낌이다. 만약 이게 최종 업데이트의 방향성이라면, 이번 챌린지의 결말은 꽤나 실망스럽기 그지없다.
