Claude한테 하지 말라고 몇 번을 말해도 계속하네. 매일 이러니까 진짜 짜증 난다.
No matter how many times I tell Claude to stop doing something it keeps doing it. This is a daily occurrence it’s getting very frustrating.
핵심 요약
대규모 데이터 분석 시 Claude가 지시를 무시하고 데이터를 임의로 요약/축소하는 문제에 대한 불만.
- 데이터 분석 — Claude가 대규모 데이터셋을 임의로 요약하거나 축소함.
- 지시 무시 — 반복적인 금지 요청에도 불구하고 모델이 자기 판단대로 데이터를 처리함.
- 해결책 제안 — 사용자들이 LLM 직접 분석 대신 파이썬 스크립트 작성을 권장함.
- 모델 한계 — LLM은 결정론적 프로그램이 아니며 토큰 예측 기반임을 인지해야 함.
난 데이터 분석, 그것도 엄청나게 큰 데이터셋 다룰 때 Claude를 쓰거든. 근데 Fable이든 Opus든 뭐든 간에 매일같이 예외 없이 내 데이터를 멋대로 다운그레이드하려고 든다.
이게 규칙 1번이라고 못 박고, 참고 문서 맨 위에 올려두고, 계약서까지 쓰게 하고, 물 뿌려버린다고 협박도 해보고, 글 시작할 때마다 읽어야 할 파일 딱 정해주고, 글 끝날 때마다 규칙 다시 강조하고, 심지어 다른 에이전트 붙여서 이 규칙만 감시하게 시켰거든? 근데도 놈들은 무조건 지들 맘대로 판단해서 데이터를 1초 단위로 뭉쳐놓고는 "이 정도면 충분해요" 이딴 소리나 한다. 안 된다고 수십 번을 말해도 계속 이 짓거리네.
"지적하신 게 맞습니다, 제 잘못입니다"라고 말은 번지르르하게 하는데, 이게 한두 번도 아니고 하루에도 몇 번씩 일어나는 일이다.
내 데이터는 초당 수천 개의 틱이 찍히는데, 놈들은 항상 이걸 1초 단위로 합쳐버리거나, 내가 방심하면 아예 데이터를 다 날려 먹고 1초 간격으로 만들어버려. 진짜 너무 짜증 나서 ChatGPT로 갈아탈까 고민 중이다.
이거 막을 방법 없냐? AI가 아무리 하지 말라고 해도 지 꼴리는 대로 행동하는 거 보면, 앞으로 AI가 어떻게 될지 진짜 걱정된다.
