Gemma 4 31B를 위한 실험적인 'Preserve Thinking' Jinja 템플릿

아니, 전혀 안 그래. 나 Gemma 4:31b랑 Qwen 3.5:122b 둘 다에 preserve thinking 돌려봤는데, 둘 다 preserve_thinking 썼을 때 결과물이 더 좋았음.

Qwen은 preserve thinking이랑 진짜 잘 맞음.

야, 그 면책 조항은 개소리임. 그거 쓴 놈은 멍청이임.

재처리해야 하는 건(재처리해야 할 필요가 있는 건) 작업에 따라 다르지만 100~500 토큰 정도인 기본 출력뿐이야. SWA 모델들은 컨텍스트 처리를 진짜 못하는데, 다행히 체크포인트 덕분에 살긴 했지만 그래도 Mistral 같은 '일반' 모델에 비하면 재계산해야 할 게 너무 많아. Mistral이 더 낫다는 게 아니라, 그냥 '잘 작동하는' 컨텍스트의 예시일 뿐이야. 그리고 새로운 걸 처리해야 할 때 컨텍스트를 실제로 재처리해야 하는 상황이 오면...

비슷한 거 만들어서 주말 동안 다듬어봤음. 이거 한번 테스트해 봐. Gemma 31B 템플릿

나도 거의 같은 템플릿 쓰는데 5일 전에 올라온 최신 템플릿 변경 사항 적용해서 쓰고 있어. 전반적으로 Gemma가 사고 과정을 교차해서 처리할 때 훨씬 일관성 있고, 아주 예전 내용도 잘 기억하는 것 같아.