Anthropic의 문서와 달리 Opus 5가 생물학 관련 요청에 자꾸 Sonnet 4.6으로 전환됨
Opus 5 falls back on bio-related requests, despite Anthropic's documentation claiming otherwise.
핵심 요약
연구자가 Opus 5의 생물학 관련 과도한 검열과 모델 전환 문제에 대해 불만을 제기함.
- 모델 전환 문제 — 문서와 달리 Opus 5가 생물학 관련 질문 시 Sonnet 4.6으로 전환됨
- 과도한 검열 — 일상적인 과학 질문이나 실험 장비 문제 해결까지 검열에 걸림
- 사용자 경험 저하 — 맥락에 따라 무작위로 발생하는 검열로 인해 업무 효율이 크게 떨어짐
- 대안 모색 — 앤스로픽의 검열 정책에 실망한 사용자들이 다른 모델로의 이전을 고려함
난 연구원인데, 실험 브레인스토밍이나 계획 짤 때, 그리고 간단한 데이터 분석이나 인턴들 줄 SOP 만들 때 Opus 5를 자주 써.
예전에 호기심에 Fable도 써봤는데, 내 경험상 이건 진짜 못 써먹을 수준이더라. 과학이랑 조금이라도 관련 있으면 아주 사소한 질문(가을에 왜 잎 색깔이 변하는지, 자전거 물리 원리가 뭔지 같은 거)까지 다 차단해버리거든. 문제는 이제 Opus까지 내 프롬프트를 차단하면서, 뜬금없이 Sonnet 4.6을 쓰라고 권한다는 거야.
뜨는 메시지는 이거야: "Opus 5의 안전 장치가 이 메시지를 차단했습니다. 의도적으로 넓게 설정된 안전 장치 덕분에 더 많은 기능을 빠르게 제공할 수 있지만, 가끔 코딩, 사이버 보안, 생물학 관련 정상적인 작업까지 차단할 때가 있습니다. Sonnet 4.6으로 계속하거나, 피드백을 보내거나, learn more를 확인하세요. 세부 정보:[bio]"
이건 Anthropic이 자기네 문서에서 Opus 5는 생물학, 화학, 생명과학 질문에 대해 모델 전환을 하지 않는다고 명시한 거랑 정면으로 배치되는 상황이지. (https://support.claude.com/en/articles/16049681-why-claude-switched-models-in-your-conversation-with-opus-5)
진짜 짜증 나는 건 이게 랜덤하게 터진다는 거야. 내 연구 내용이 깊게 담긴 긴 대화 맥락 속에서, 그것도 전혀 문제 될 게 없는 질문을 할 때 갑자기 이래. RNA 서열 분석하고 토론할 때는 잘만 하다가, 실험 장비 트러블슈팅 좀 하려고 하면 입을 꾹 닫아버리는 식이지. 프롬프트를 다르게 돌려 말하면 금방 해결되긴 하는데, Anthropic 정책상 애초에 일어나지도 말아야 할 일 때문에 시간 낭비하는 게 너무 크다.
