Microsoft의 FrogNano-4B-2609 모델 공개 (Hugging Face)
microsoft/FrogNano-4B-2609 · Hugging Face
핵심 요약
Microsoft가 소프트웨어 엔지니어링 작업에 특화된 4B 규모의 에이전트 모델 FrogNano를 공개했습니다.
- 모델 아키텍처 — Qwen3.5-4B 기반의 32계층 하이브리드 Gated DeltaNet 구조를 채택함
- 학습 방식 — 1,500개의 합성 SWE 환경에서 강화 학습을 통해 리포지토리 수준의 코딩 능력을 강화함
- 주요 기능 — 리포지토리 탐색, 디버깅, 코드 편집, 테스트 실행 및 패치 생성에 최적화됨
- 사용상 주의 — 생성된 패치는 보안 및 정확성 검증을 위해 반드시 인간의 검토가 필요함
huggingface.co
원문 사이트로 이동
GPU 가난뱅이들을 위한 마이크로소프트의 에이전트 모델
FrogNano는 언어, 추론, 코딩, 에이전트 작업 및 멀티모달 작업을 위해 설계된 범용 사후 학습 모델인 Qwen/Qwen3.5-4B를 기반으로 만들어졌어. FrogNano는 Qwen3.5-4B의 촘촘한 32계층 하이브리드 Gated DeltaNet 및 게이트 어텐션 아키텍처를 그대로 물려받았지만, 추가적인 사후 학습은 텍스트 전용으로 진행됐고 리포지토리 수준의 소프트웨어 엔지니어링에만 집중했어. 이 모델은 TaskPilot을 사용해 진화하는 정책에 맞춰 생성 및 보정된 약 1,500개의 합성 SWE 작업 환경에서 강화 학습을 거쳤지. 학습에는 5개 도구로 구성된 Leaf 하네스와 전체 다중 턴 코딩 궤적에 걸친 실행 가능한 테스트 기반 보상이 사용됐어.
이 추가 사후 학습은 4B라는 작은 모델에서 장기적인 리포지토리 탐색, 디버깅, 코드 편집, 테스트 실행 및 패치 생성을 개선하는 게 목적이야. 행동 증류(behavioral distillation) 기반 방식들과는 다르게, FrogNano는 더 강력한 모델의 솔루션 궤적, 행동, 추론 흔적 또는 패치 타겟을 학습하지 않아. 이런 특화 작업에는 한계와 위험도 따르는데, 성능이 Leaf 하네스와 테스트 품질에 민감하고, 학습 데이터가 파이썬 위주에 영어 중심이라서, 테스트를 통과하더라도 생성된 패치가 틀렸거나 보안상 위험할 수 있어. Leaf 하네스와 통합되면 FrogNano는 리포지토리 변경을 제안할 수 있는 구조화된 도구 호출을 생성해. Leaf는 격리된 리포지토리 환경 내에서 승인된 도구 호출을 실행해 후보 패치를 만들어내고, FrogNano 자체가 직접 변경 사항을 배포하는 건 아니야. 결과물로 나온 패치는 사용하거나 배포하기 전에 반드시 사람이 검토하고, 회귀 테스트를 거치며, 보안 검증을 받아야 해.
