Claude가 추론 요청이 포함된 평가 및 판단 요청을 거부함

Claude가 좀 이상한 짓을 하는데, 그냥 직접적으로 물어보지 않으면 추론 내용을 알려주긴 함. 'provide reasoning' 대신 'walk me through your thinking'이라고 쓰기 시작했는데 차단이 멈췄음. 한번 시도해 볼 만함.

난 그냥 텍스트 일부를 강조하거나 복사한 뒤에 'explain'이라고 덧붙이는데, 그러면 추론 내용을 알려주는 데 아무 문제 없음.

이거 진짜 짜증 남. 우회 방법을 안 쓰는 주의라 해결책을 못 찾았음. 추론을 물어볼 수 있는 건 기본적인 안전 기능인데, 그걸 쓰려고 정교한 거짓말을 꾸며내길 기대해서는 안 됨.

거의 모든 인터페이스에서 전체 산문 형태의 사고 요약이 삭제된 것도 여전히 불만임. 오개념을 조기에 발견하는 데 엄청 유용했거든. 이제는 "야 Claude, 그 사고 지표에 있는 거 좀 이상한데, 무슨 일이야?"라고 말조차 못 함. 제품을 안전하게 사용하려고 할 때마다 'reasoning_extraction' 플래그 때문에 계속 차단당함.

네가 말하는 건 사고 요약인데, 그건 '진짜' 추론에서 작은 모델이 생성하는 거라 근본적인 추론은 괜찮아도 가끔 환각을 일으킴. 예를 들어, 사고 요약이 문장에서 주어를 잘못 쓰는 경우가 있음(실제 추론 과정에서는 일어나지 않는 일인데도 Claude 대신 '사용자'를 언급한다거나 그 반대인 경우). 요약 내용에 대해서는 그렇게까지 걱정 안 해도 됨.

맞음. 나도 로컬에서 돌리는 오픈 웨이트 모델 간의 벤치마크를 평가하려고 이걸 사용했는데, 추론 흔적을 감지하자마자 완전히 차단해 버리더라. 진짜 피곤함.

Anthropic이 이 문제에 대해 제대로 대처하지 못하면, 꽉 막힌 서비스가 아닌 다른 모델이나 서비스로 사용자를 뺏기기 시작할 거임.