Fable 5의 보안은 수익을 보호하기 위한 확실한 전략이다.

Fable 5는 Mythos에 분류기(classifier) 하나 대충 갖다 붙인 거다. 가중치도 똑같음. Anthropic이 직접 말한 내용이다.

보지도 못할 사고 과정에 돈을 내야 한다. 날것 그대로의 사고 과정(Raw chain of thought)은 절대 공개 안 한다. 선택적으로 숨기는 것도 아니고, 그냥 아예 안 보여줌. 기본값은 빈 사고 필드만 반환한다. "요약(Summarized)"을 선택하면 사고 과정의 요약본을 주는데, 이걸 출력 토큰 100만 개당 50달러씩이나 받아 처먹는다. 사고 과정이 진짜 위험한 거였으면 요약본도 위험했겠지. 진짜 위험한 건 누군가가 모델의 '낙서장'을 읽어서 수조 원짜리 모델을 증류(distilling)해내는 거다. 이건 그냥 지식재산권(IP) 방어용 해자일 뿐임.

사고 과정은 끌 수도 없다. thinking: {"type": "disabled"}를 넣으면 HTTP 400 에러가 뜬다. 모든 요청마다 Opus 가격의 2배를 내면서 사고 토큰을 강제로 태워야 함. "노력(effort)" 파라미터로 깊이를 조절할 수는 있는데, 0으로 만드는 옵션은 아예 없다.

분류기는 네 토큰을 태워서 "안 돼"라고 말하는 데 쓴다. Fable의 안전 장치가 네 메시지를 잡아내면 팝업창이 뜬다. Opus 4.8로 계속하거나, 재시도하거나, 피드백을 보내야 함. 자동 전환 기능을 꺼놨다면, "재시도"를 누르는 순간 똑같은 질문에 또 Fable 가격의 토큰을 태우고, 결국 또 차단당할 거다. 안전 장치는 현재 "의도적으로 광범위하게" 설정되어 있어서 (지들 말로는 그렇다), 멀쩡한 코딩이나 사이버 보안 작업도 툭하면 걸린다. 결국 Fable 가격 내면서 Opus 쓰라는 소리나 듣고 있는 꼴이다.

30일간 데이터 보관은 필수다. 네 프롬프트, 네 코드, 네 기업 기밀 데이터가 한 달 동안 저장된다. 어떤 사용자들은 정부 신분증까지 요구받는다. 정부가 출시 3일 만에 무기급으로 취급한 모델에, 네 신원과 질문 내역이 묶여서 저장되는 거다.

수출 통제가 모든 걸 말해준다. 출시 3일 만에 상무부가 수출 통제를 적용했다. Anthropic은 국적 확인을 제때 못 한다는 이유로 19일 동안 모든 사용자의 접속을 차단했다. 수출 통제는 안전 기능에 적용되는 게 아니다. 전략 자산에 적용되는 거지.

내면의 목소리 유출. 어떤 사용자가 경쟁 프로그래밍 문제를 풀다가 날것의 사고 과정을 얻어냈다: GRRR, GAAAH, DATA DATA DATA, PHEW. Karpathy는 이걸 "고차원 잠재 공간에서 일어나는 복잡한 연산을 인간의 텍스트로 차원 축소 투영한 것"이라고 불렀다. Anthropic의 대응은? 더 깊숙이 숨기는 거다. 질문은 그 토큰들이 의미가 있냐 없냐가 아니다. 왜 걔네가 그걸 너한테 보여주기 싫어하냐는 거지.