안전 장치가 진짜 미쳐 돌아감
Safeguards are absolutely insane
핵심 요약
경제 모델링 프로젝트를 진행하던 중 Claude의 안전 장치가 과도하게 작동해 프로젝트 전체가 차단되는 상황을 겪고 있음.
- 과도한 안전 장치 — '공격 계획'이라는 단어 사용 후 프로젝트 전체가 차단됨
- 계정 단위 차단 — 특정 프로젝트가 아닌 계정 수준에서 모든 관련 질문이 거부됨
- 해결책 시도 — 메모리 삭제, 프로젝트 폴더 이름 변경 등을 시도했으나 실패함
- 사용자 불만 — 경제 모델링 같은 무해한 작업조차 막히는 상황에 대해 강한 불만을 표함
Fable 5.2한테 코드베이스 문제 해결을 위한 "공격 계획(plan of attack)"을 짜달라고 물어봤거든. 참고로 우리 지난 6개월 동안 같은 코드베이스 붙잡고 작업 중이었음. 근데 갑자기 안전 장치가 작동하네? 그래... "공격"이라는 단어가 마음에 안 드나 보다 싶어서 프롬프트를 수정했지... 근데 웬걸? 이제는 프로젝트에 대해 물어보기만 해도 안전 장치가 발동함. 그냥 프로젝트 관련해서 아무거나 물어보기도 하고, 폴더 연결 끊고도 해보고, 메모리 싹 다 뒤져서 이상한 거 있나 확인까지 해봤는데도 안 됨. 아무것도 없음.
이제 프로젝트 언급만 하면 Fable이 그냥 먹통이 됨.
이게 말이 되냐? 진짜 어이가 없어서 미치겠네!
혹시나 해서 말하는데, 이 코드베이스는 보안이나 생물학, 아니면 뭐 위험한 거랑은 1도 상관없음. 그냥 경제 모델 수치 추정하는 거거든.
수정: 알고 보니 프로젝트 문제가 아니라 내 계정 자체가 맛이 가서 모든 프로젝트에서 다 이러는 거였음 :)

![Hello! Nice to meet [your name here]](https://i.redd.it/23nmxc9kd51i1.png)
