r/LocalLLaMA•2개월 전•84•39
Kwaipilot/KAT-Coder-V2.5-Dev · 허깅페이스
Kwaipilot/KAT-Coder-V2.5-Dev · Hugging Face
핵심 요약
35B 규모의 코딩 특화 MoE 모델 KAT-Coder-V2.5-Dev가 공개되었습니다.
- KAT-Coder-V2.5-Dev 출시 — 35B 파라미터 규모의 오픈 웨이트 MoE 모델이 공개됨.
- 에이전트 코딩 SOTA — 비슷한 규모의 모델 중 에이전트 코딩 분야에서 최고 성능을 달성함.
- 이상 행동 최적화 — RL 학습을 통해 도구 레이블 오류 및 반복 생성 문제를 대폭 개선함.
- 벤치마크 신뢰성 논란 — 비교 대상 선정 및 타 모델 점수 기재 방식에 대한 의구심이 제기됨.
huggingface.co
원문 사이트로 이동
kwaipilot으로부터:
지난 7월 KAT-Coder-V2.5 출시에 이어, 커뮤니티와의 소통을 강화하고 연구 성과를 선보이기 위해 총 파라미터 35B, 활성 파라미터 3B 규모의 MoE 모델인 오픈 웨이트 버전 KAT-Coder-V2.5-Dev를 출시하게 되어 기쁩니다.
KAT-Coder-V2.5-Dev 주요 특징
- 성능 향상. SFT/RL 학습을 통해 KAT-Coder-V2.5-Dev는 비슷한 파라미터 규모의 모델들 중 에이전트 코딩(Agentic Coding) 분야에서 SOTA 결과를 달성했습니다.
- 이상 행동 최적화. RL 학습을 통해 특정 이상 행동들이 크게 최적화되었습니다. 예: 비정상적인 도구 레이블 -9pp (9.34% -> 0.28%), 단일 턴 연속 반복 -0.34pp (0.34% -> 0%).
