Haiku 5.5는 Opus 5.5보다 40배 저렴합니다. 여러분의 Explore 서브에이전트는 아마 여전히 Opus로 돌아가고 있을 겁니다

아주 조금 들었거나, 아니면 과부하 상태 아닐까?

😬

어드바이저 모델 학습 패러다임 본 적 있냐? 딱 그거임. 최상위 레벨에는 멍청한 일꾼이 있는데, 혼자 해결 못 하는 문제에 부딪히면 더 똑똑한 모델한테 넘기도록 학습된 거지.

그러니까 이런 식임: 학습된 Haiku가 문제를 받음 -> 문제 해결에 수준 높은 LLM이랑 아키텍처가 필요하다는 걸 깨달음 -> Fable을 호출함 -> 계획을 읽음 -> 자기가 그 구성 요소들을 실행할 수 없다는 걸 깨달음 -> Opus나 Sonnet을 호출함 -> 완료될 때까지 반복.

핵심은 도움을 요청해야 할 때를 깨닫게 만드는 거임. 장점은 일단 충분히 잘 학습시키면 어드바이저 모델들을 마음대로 교체할 수 있다는 거지. 그래서 작은 모델을 특정 주제 전문성을 갖추도록 재학습시키고, 로컬 학습하는 동안 토큰을 아끼다가, 프로덕션 단계에서는 더 좋은 모델로 바꿔 끼우면 됨. 그럼 멍청한 일꾼이 일을 끝내는 데 충분한 컨텍스트를 어드바이저한테 전달하는 법을 알게 될 거라 확신할 수 있지.

사람들마다 오케스트레이션에 대한 정의가 워낙 제각각이라 이게 먹힐지도 모르겠네 😂

밈은 제쳐두고, 난 Fable한테 계획이랑 워크플로우를 짜게 함. 그 뒤로는 오케스트레이터가 워크플로우 호출만 실행할 수 있으면 됨. 1시간짜리 캐시 유지하는 데 돈도 안 들고 컨텍스트도 가볍게 유지되거든. 그래서 난 Fable이 계획을 짜게 하고 -> 새 세션에서 Sonnet이 Fable, Opus나 다른 에이전트들을 호출하는 장기 작업을 오케스트레이션하게 함. 이제 Haiku도 나름 유효한 툴 콜링이 되니까 아마 Haiku로도 될지도 모르겠네.

조심해라, 그 조합은 실제 회사랑 위험할 정도로 가까워. 이거 AGI일지도 모름.

이거 보고 웃었음 😂😂😂

동의함. 모든 걸 Haiku로 돌리는 건 멍청한 짓임. 코드랑 작업 퀄리티 점점 떨어질 거다.

그러지 마라... 그냥 서브에이전트 파일들을 만들어. 'scout'라는 이름으로 하나 만들고, haiku로 설정한 다음, 사용자 Claude.md에 검색할 때 그 에이전트를 쓰라고 지시해... 하는 김에 sonnet-coder랑 opus-coder 서브에이전트도 만들어서, 오케스트레이터가 코딩 작업을 거기로 넘기게 해봐. 그럼 메인 세션 토큰 좀 아낄 수 있음. 모든 서브에이전트를 haiku로 강제하는 건 멍청한 짓이야. 그러지 마라...

제한이 충분히 남아있다면, 난 보통 의도적으로 Opus한테 Opus 서브에이전트를 더 많이 돌리라고 시켜. 걔네가 더 꼼꼼하고 뭘 탐색할지 더 나은 결정을 내리거든.