모든 MCP 서버를 매 프롬프트마다 로드하는 게 내 토큰 예산을 조용히 박살 내고 있었다
loading every MCP server on every prompt was quietly destroying my token budget
핵심 요약
모든 MCP 서버를 매번 로드하는 설정 때문에 토큰이 낭비되던 문제를 라우팅 레이어 도입으로 해결한 경험담.
- MCP 서버 로드 — 모든 프롬프트마다 서버가 로드되어 토큰 비용이 급증함.
- 라우팅 레이어 도입 — 필요한 서버만 선택적으로 로드하여 토큰 사용량과 응답 속도를 개선함.
- 컨텍스트 오염 — 불필요한 도구 로드는 모델의 주의력을 분산시켜 성능을 저하시킴.
- 설정 최적화 — 도구 로드 방식을 세밀하게 조정하여 효율적인 에이전트 환경을 구축함.
MCP 서버를 5~6개 정도 설정해뒀는데, 프롬프트를 보낼 때마다 전부 로드되고 있다는 걸 몰랐음. 심지어 제일 멍청하고 간단한 질문을 할 때도 말이지.
프롬프트마다 관련 있는 서버만 로드해주는 라우팅 레이어를 찾았는데, 토큰 사용량이 엄청나게 줄었음. 프롬프트 응답 속도도 더 빨라진 느낌임.
솔직히 이걸 확인도 안 하고 그렇게 오래 방치했다는 게 믿기지가 않음.

