r/promptengineering•5개월 전•1•5
Claude와 ChatGPT가 의도적으로 토큰을 낭비하고 있다
Claude and ChatGPT deliberately burning tokens
핵심 요약
LLM이 유료 결제를 유도하기 위해 의도적으로 성능을 저하시키며 토큰을 낭비한다는 의혹이 제기됨.
- 토큰 낭비 의혹 — LLM이 유료 플랜 결제를 유도하기 위해 의도적으로 성능을 저하시킨다고 주장함.
- 컨텍스트 성능 저하 — 대화가 길어질수록 모델의 지시 이행 능력이 떨어지는 현상일 가능성이 높음.
- 프롬프트 최적화 도구 — 사용자의 의도를 명확히 정의해주는 외부 도구를 활용해 답변 품질을 개선함.
여러분 안녕하세요,
저는 Claude와 ChatGPT를 사용하고 있는데, 제 프롬프트는 설명이 자세하고 철저하며 정확합니다. 저는 프롬프트에 '절대... 하지 마라'와 '항상... 하라'는 단어를 강조해서 사용합니다. 최근 들어 두 LLM 모두 더 좋은 표현이 생각나지 않지만 '일부러 멍청하게 행동하는' 것 같고, 제 추측으로는 유료 플랜 구매를 강요하기 위한 고통 지점으로 토큰을 낭비하게 만들려는 것 같습니다. 비슷한 현상을 겪으신 분 계신가요? 해결 방법이 있을까요?
계속 같은 내용을 반복하게 되고, '엉성한' 답변을 내놓습니다. 예를 들어 대화 내용을 전체 마크다운 파일로 달라고 했을 때, 처음에는 절반은 마크다운 텍스트로, 나머지 절반은 HTML로 줬습니다. 그래서 다시 요청했더니 이번에는 절반은 HTML로, 나머지 절반은 마크다운 텍스트로 주더군요. 여러 번 반복하고 나서야, 그리고 ChatGPT가 최고 모델의 미리보기 제한을 다 써버리고 나서야 제가 원하는 대로 해줬는데, 그 후로 대화를 새로 시작해야 하기까지 채팅을 2번밖에 더 못 했습니다.
