thinkingmachines/Inkling-2-Small 출시!

규모 대비 성능 비율이 좋아 보여. Inkling 모델을 많이 써본 건 아니지만, 우리 회사는 중국산 모델 사용이나 호스팅이 금지되어 있어서 미국이나 서구권 모델이 더 많이 나오면 환영이야. 언젠가 미국 오픈 웨이트 모델들이 중국 모델들과 경쟁할 수 있게 돼서, 정부 계약이 있는 기업들이 강제로 미국 클라우드 모델만 쓰지 않아도 됐으면 좋겠어.

내 업무가 딱 그거라서, 이런 모델이 더 많이 나오면 나한텐 개꿀이지.

시간 날 때 이 새 버전도 다운받아서 써봐야겠네. 이전 Inkling은 10명이나 썼으려나 모르겠다.

이전 버전 써봤는데 데이터센터용 GPU 아니면 실행하기가 너무 힘들었고 성능도 별로였음.

지식은 괜찮은데 에이전트로 쓰기엔 이상한 행동을 너무 많이 해서 작업이 중간에 자꾸 종료됨. 비주얼 패치 사이즈가 너무 커서 큰 모양 말고는 거의 장님 수준이었고. 헤지펀드 자금으로 운영되는 곳이라 아마 그쪽 용도로 학습시킨 듯.

벤치마크만큼 성능이 안 나와서 지금은 그냥 매일 쓰는 GLM 5.3 Flash 돌리는 중. 이건 거의 확실히 Claude 증류 모델이긴 한데 성능은 잘 나옴.

그래도 서구권 모델로 다시 돌아가고 싶어서 Muse나 Mistral, 아니면 이번에 나온 Inkling 새 버전을 보고 있는 중임.

Inkling 1은 그 카테고리에서 파레토 최적은 아닐지 몰라도, 툴 콜링(tool calling) 효율성만큼은 진짜 끝내줬지.