오픈소스 AI가 거대 모델보다는 재사용 가능한 기능에 집중한다면 어떨까?

이미 하네스(harness) 개발 쪽에서 그런 일이 일어나고 있다고 봐. PicoClaw 같은 저사양 하네스에서 돌리는 모델과 Hermes나 OpenClaw에서 돌리는 모델의 차이는 엄청나거든. 같은 모델이라도 하네스에 따라 성능이 완전히 달라지는 건 채팅 인터페이스만 쓰던 사람들에겐 충격적일 거야. LLM을 판단/추론/취향 레이어로, 하네스를 기능/활동 레이어로 생각하면 모델을 무작정 키우지 않아도 되는 길이 보일 거야. 최근 RLHF 대신 RLVF(컴파일러 오류 메시지 같은 검증된 피드백)를 지향하는 훈련 방식도 이런 분리가 올바른 방향이라는 증거라고 생각해.

이게 아키텍처에만 적용되는 거야, 아니면 학습 데이터에도 적용되는 거야? 코딩 말고 다른 분야에서는 형편없이 실패하는 모델이 너무 많아서, 나는 학습 데이터가 전문화의 핵심이라고 보는데.

이거 Overmind가 만들고 있는 거랑 비슷하네. 프로덕션 트레이스(production traces)로 학습시킨 SLM(소형 언어 모델)이 벤치마크에서 미친 성능을 내고 있거든. 기술적으로도 말이 되는 접근이야.

말씀하신 내용을 보여주는 더 구체적인 링크나 참고 자료가 있을까요?

이미 그렇게 하고 있다고 생각하지 않아? 문제는 범용 모델이 지식을 전이(transfer)할 수 있어서 성능이 더 잘 나온다는 거야.

맞아, 실제로 많은 사람이 이렇게 하고 있지만, 솔직히 말해서 증류(distillation)보다 더 나은 결과를 낼 수 있는 모델을 직접 구축할 수 있어. 예를 들어 40M 토큰 정도면 주제 이해나 문구 회상 같은 창발적 행동이 나타나기 시작해. 도메인 전문가 모델은 이걸 기반으로 처음부터 새로 만들 수 있지. 도메인에 따라 생각보다 훨씬 작은 모델로도 충분해. 채팅용이라면 500M~1B 베이스 모델 정도면 적당할 거야. 나는 증류 대신 n-gram(희소 n-gram)을 통해 구성 가능하게 만들려고 테스트 중이야. 충분한 크기의 코어 모델(1B 정도?) 위에 휴대 가능한 지식을 위한 어댑터를 훈련하는 방식이지.

나는 이념 때문이 아니라 필요에 의해 내 방식대로 설계했어. 폰에서는 모든 걸 다 하는 거대 모델을 돌릴 여유가 없으니까 기능을 쪼개는 거지. 알림이 중요한지 판단하는 작은 분류기, 검색용 임베딩 모델, 짧은 초안만 작성하는 3-4B 모델 식으로 말이야. 각 조각은 작고 교체 가능하며 독립적으로 테스트할 수 있어. 짜증 나는 건 아무도 이런 작은 전문가 모델을 깔끔한 규격으로 배포하지 않고 다들 또 다른 채팅 모델만 내놓는다는 거야. 고정된 입출력 스키마를 가진 '알림 분류' 모델이 나한테는 다음 7B 모델보다 훨씬 가치 있어.

Qwen 27B가 이미 기술 질문에 과하게 집중된 그런 모델이었지. 좋은 예시야. 엔비디아의 Nemotron도 비슷한 논리지만, Qwen보다 10배 큰 모델조차 결과가 처참했어.

서로 다른 도메인을 위한 계층적 Qwen 27B 같은 게 있다면 좋겠어. 거대 기업들은 여전히 그걸 다 합쳐서 창발적인 프런티어 모델을 만들 수 있을 테니까.