Claude Code의 토큰 제한을 줄이기 위해 Jev를 통합했습니다

Jev를 좀 파보고 claude code 기반으로 돌아가는 프로젝트들을 살펴봤거든. 코딩 작업할 때 자잘한 결정 내리는 거 도와줄 수 있을지, 특히 전체 대화 내용 말고 딱 필요한 맥락만 던져줬을 때 어떨지 항상 궁금했단 말이지.

그래서 claude code 플러그인인 optim-jev를 만들어봤어. 실험적인 도구 3개가 들어있음:

• Context compaction: Jev가 예전 도구 호출이랑 출력값들을 확인해서, 최근 메시지는 보호하면서 나머지는 유지하거나, 자르거나, 아예 삭제해버림. (claude code 내장 컴팩터보다 앞단에서 작동하는 애드온임)

• Model + Effort routing: 작업 내용, 관련 파일, 그리고 시간이 지나면서 업데이트되는 프로젝트 규칙을 바탕으로 Haiku, Sonnet, Opus 중에서 뭘 쓸지 Jev가 골라줌.

• Skill selection: 요청할 때마다 스킬 카탈로그 전체를 다 보내는 대신, Jev가 관련 있는 스킬 몇 개만 골라서 보내거나 아예 안 보냄.

Claude 작업 대부분은 Jev가 실제로 어떤 맥락을 봐야 할지 결정하는 데 집중했어. Jev에 들어가는 맥락을 제한해서 의사결정 퀄리티 떨어지는 걸 막는 전략도 짰는데, 중요한 작업 정보는 남기고 우선순위 낮은 기록부터 쳐내는 방식임. 반복 가능한 결정들은 캐싱해서 보존하는 메커니즘도 넣었어. claude 도움받아서 claude code 기존 워크플로우랑 optim-jev 통합 워크플로우를 비교할 수 있는 성능 측정 지표도 설계해 놨고.

Opus랑 머리 맞대고 이 아이디어들을 제대로 벤치마크할 최적의 실험 환경을 구상 중이야. 토큰 사용량, 의사결정 퀄리티, 비용, 그리고 프롬프트 캐싱 같은 기존 최적화 기능들이랑 같이 쓸 때 어떻게 작동하는지 같은 것들 말이지. 아직 최종 결론은 안 났는데, 플러그인은 실험해 보고 재현해 볼 수 있는 수준까지는 만들어놨어.

저장소는 MIT 라이선스로 자유롭게 쓰면 됨: https://github.com/Oqura-ai/optim-jev