r/OpenAI•약 6시간 전•9•5
인지와 기능을 분리하여 3B~8B 로컬 모델의 비용을 97.3% 절감하고 신뢰성을 높이는 방법
Giving 3B–8B local models a 97.3% cost reduction and better reliability than unequipped frontier models by separating cognition from capability
핵심 요약
사전 검증된 소프트웨어 번들을 통해 로컬 모델의 인지적 계획과 실행을 분리하여 성능과 효율을 극대화한 'Skillware' 프레임워크 소개.
- Skillware 프레임워크 — 인지적 계획과 실행을 분리하여 에이전트 신뢰성을 확보함
- 비용 및 성능 — 3B~8B 로컬 모델이 복잡한 작업에서 대형 모델을 능가하고 토큰 비용을 대폭 절감함
- 오픈 소스 공개 — arXiv 논문과 GitHub 저장소를 통해 프로젝트를 공개하고 2만 건 이상의 다운로드를 기록함
다들 안녕, 에이전트 신뢰성 문제를 해결하려고 우리가 'Skillware'라고 이름 붙인 프레임워크를 제안하는 프리프린트를 arXiv에 올렸어. (arXiv:2611.07652v1) 핵심 아이디어는 이거야. 모델이 즉석에서 코드를 짜게 하거나 지저분한 텍스트 API를 파싱하라고 프롬프트 엔지니어링으로 쥐어짜는 대신, 검증된 결정론적 소프트웨어 번들을 쥐여줘서 인지적 계획과 실행을 분리하는 거지.
23개의 최신 모델이랑 오픈 웨이트 모델을 대상으로 벤치마크 스위트 돌려서 스트레스 테스트도 빡세게 해봤거든? 근데 이 아키텍처를 적용한 작은 로컬 모델들(3B~8B 파라미터)이 복잡한 다단계 워크플로우에서 도움 안 받는 최신 모델들을 그냥 압살하더라. 토큰 사용량도 미친 수준으로 줄어들고.
논문은 arxiv에 올라와 있고, 프로젝트 확인해보고 싶으면 gh에 전부 오픈 소스로 풀어놨으니까 가서 봐 (arpahls/skillware). 최근에 다운로드 2만 회 찍었음.
피드백 주면 진짜 고마울 것 같아. <3
