Opus 5.5의 안전 가드레일, 합법적인 기술 작업에도 너무 과도함

요즘 Opus 5.5의 안전 가드레일 때문에 진짜 미치겠음. 이건 뭐 책임감 있는 AI 개발이라기보다는, 그냥 키워드 하나만 걸리면 발작하는 편집증적인 시스템에 가까워진 느낌임.

실제 사례 하나 들어봄. 한 25년 전에 단종된 기기의 구형 폰 펌웨어를 가지고 있는데, 이걸로 옛날 UI를 에뮬레이션해서 추억 팔이 겸 소프트웨어 보존 프로젝트를 하려고 했거든. 지극히 정상적인 리버스 엔지니어링이자 소프트웨어 보존 작업이잖아.

근데 Claude가 emulation이라는 단어만 감지하면 바로 안전 장치가 작동함. 갑자기 내가 뭘 하려는 건지 모델이 멋대로 지레짐작해서 헛소리를 해대니까, 정작 작업은 안 하고 모델이랑 싸우느라 시간 다 버리는 중임.

이게 바로 Anthropic의 방식이 역효과를 내는 지점임. 문맥이나 의도, 실제 기술적 요구 사항보다 고립된 키워드가 더 중요하게 취급되니까. 25년 된 폰 인터페이스 에뮬레이팅하는 게 뭐 대단히 의심스러운 일인가? 리버스 엔지니어링이 무조건 악의적인 건 아니잖아. 에뮬레이션이 사이버 범죄랑 동의어도 아니고.

안전 장치가 필요한 건 나도 이해함. 뭐든지 다 해달라는 것도 아니고, 안전 정책 자체를 반대하는 것도 아님. 하지만 진짜 위험한 걸 막는 거랑, 모델이 문맥 파악을 못 해서 멀쩡한 기술 작업을 쓸데없이 어렵게 만드는 건 차원이 다른 문제임.

아이러니한 건 Opus가 진지한 기술 작업을 위한 모델이라면서, 정작 나는 엔지니어링보다 가드레일이랑 협상하는 데 시간을 더 많이 쓰고 있다는 거임.

Anthropic, 합법적인 엔지니어링이랑 악의적인 의도도 구분 못 하는 안전 장치는 지능적인 게 아님. 그냥 멍청한 몽둥이질이지. 사용자가 제한 키워드랑 조금이라도 관련 있는 거 건드릴 때마다 매번 이 짓거리랑 싸워야 하는 건 아니잖아.

그래, 전용 사이버 보안 프로그램이 있다는 건 아는데, 그거 들어가려면 검증된 전문 경력이 있는 전문가여야 한다며? 나는 그냥 25년 된 폰 UI나 재미로 복원해보려는 평범한 Kowalski일 뿐임. 내세울 자격증도 없고, 화려한 이력도 없고, 악의적인 의도도 없음. Claude가 빌어먹을 설정 메뉴 하나 그려주게 하려면, 사이버 보안 컨설팅 회사라도 차려서 전직 NSA 국장이라도 영입하고 정부 보안 인가라도 받아야 하나 봄.