r/ChatGPT•약 9시간 전•14•20
ChatGPT는 왜 실수를 학습하지 못하거나 안 하는 걸까?
ChatGPT Can't Or Won't Learn From Its Mistakes
핵심 요약
ChatGPT가 지시사항을 무시하고 잘못된 가정을 반복하는 문제에 대해 사용자들이 원인과 해결책을 논의합니다.
- 모델 한계 — LLM은 긴 지시사항보다 짧고 구체적인 맥락에서 더 잘 작동함
- 맥락 오염 — 대화가 길어질수록 초기 지시사항보다 최근 대화 내용에 더 큰 영향을 받음
- 구조적 제약 — OpenAI의 기본 가이드라인이 사용자 개인화 설정보다 우선순위가 높음
- 해결 전략 — 문제가 발생하면 대화를 새로 시작하거나 마지막 메시지에 규칙을 다시 명시함
ChatGPT 쓰다 보면 이런 일 존나 자주 겪음. 나 플러스 플랜 쓰고 있는데 말이야:
AI한테 문제 하나 던져주고 같이 얘기 좀 하려고 하면, ChatGPT가 내 지시사항을 개무시함. 지 혼자 멋대로 가정하기 시작하더니, 나중에 가서는 그 가정이 틀렸다고 지 입으로 인정까지 함. "결론 내릴 때 멋대로 가정하지 말고, 뭐든 사실인지 아닌지 먼저 나한테 물어봐"라고 프롬프트를 줘도, 물어보긴 개뿔 똑같은 짓거리만 반복함.
왜 자꾸 그러냐고 따지면, 지가 안 그러겠다고 약속해놓고는(멋대로 가정하고 그 가정 기반으로 조언 쏟아내는 거 안 하겠다고 해놓고), 결국 안 멈췄다고 인정함. 그러면서 계속 똑같은 짓을 반복하니까, 결론적으로 나(사용자)는 얘가 하는 말이나 약속을 하나도 믿을 수가 없는 상황임.
나만 이런 거 겪는 거 아니지?
사용 중인 기본 모델: GPT-6.1 Sol Medium
