StepFun 3.7 Flash 공개

추론은 RL(강화학습)을 통해 학습됨. 기술을 연마하기 위한 수많은 시뮬레이션이 있지. 그냥 그런 거고, 학습된 대로 뭐든 될 수 있는 거임.

기술적으로는 뭐든 뽑아낼 수 있음. 애초에 언어라는 게 그런 거니까. 내가 지금 '우블리우블리디닷'이라고 써야 한다는 우주적 법칙은 없음. 그냥 그렇게 학습됐을 뿐이지. 원칙적으로는 사고 단계에서 분홍색 코끼리의 명암 묘사를 생각하게 만들 수도 있고, 그게 의미 있는 벡터를 전달하기만 한다면 상관없음. 대충 일반적인 평문으로 생각하는 게 편리할 뿐이지 기술적으로는 뭐든 가능함.

추론 패스마다 모델은 단순히 토큰을 되돌아보는 게 아니라, KV 캐시에 저장된 사고 상태를 참조함. 이건 단순히 토큰 하나보다 훨씬 풍부한 고차원 상태를 담고 있음.

최근에 모델을 언어로 생각하게 하지 말고 잠재 공간(latent space)에서만 생각하게 학습시키는 연구가 있었음 https://arxiv.org/abs/2412.06769 왜 아무도 시도 안 하는지 모르겠는데, 별로라서 그런가?

웹사이트에서 테스트해봤는데 이제 '합리적'임.

이거 개웃기네

똑똑한 모델이라는 증거 같은데, o3가 기본적으로 그렇게 하잖아