GPT-5.6 Sol의 원시 추론(raw reasoning)이 도구 호출 실패 중 유출됨

숨기려고 애쓰는 모든 모델의 전체 추론 흔적은 주기적으로 유출되기 마련이지. 비결정론적 기술에 온 걸 환영해.

1만 번 중 한 번 유출되는 건 별로 중요하지 않아. 숨기는 이유는 경쟁사에게 엄청난 양의 추론 데이터와 증류(distillation) 소스를 넘겨주지 않기 위해서라고.

DeepSeek나 Moonshot 모델들이 얼마나 잘나가는지 보면 알겠지만, 그런 식의 은닉은 효과도 없고 사용자가 걱정할 일도 아니야. 누가 이기든 상관없고, 오픈 웨이트 모델이 훌륭해지는 게 OpenAI나 Anthropic에 투자 안 한 우리 모두에게 더 이득이지.

DeepSeek는 증류할 필요도 거의 없어. OpenAI가 추론 기능을 보여주기도 전에 이미 GPT-o1 수준을 따라잡고는 어떻게 하는지 전 세계에 다 공개해서 난리를 일으킨 게 걔네들이니까 ㅋㅋㅋ

아니, 적절한 방식으로 CoT를 줄이면 방해되는 사실들을 제거해서 성능을 높일 수 있어. 간단한 방법은 p(y*|x\j) > p(y*|x)가 되도록 토큰을 가지치기하는 거지. 정보 놀람도(information surprisal) -log p(xj|x{<j})를 측정하는 것도 또 다른 간단한 방법이고.

내 생각엔(imo)

참고로, 개인적인 의견은 중요하지 않아. CoT 가지치기와 증류는 이미 연구가 많이 된 분야고, 이런 기법들은 학계에서 잘 정립되어 있어.