r/PiCodingAgent•1일 전•7•17
OMP와 Opus 5.5 사용량 문제
OMP and Opus 5.5 Usage
핵심 요약
OMP에서 Opus 5.5 사용 시 컨텍스트 길이에 따른 토큰 소모 급증 원인과 해결책을 논의함.
- 컨텍스트 길이 — 400k~850k에 달하는 과도한 컨텍스트가 비용 급증의 주원인임.
- 캐시 읽기 비용 — 매 턴마다 전체 기록을 캐시에서 읽어오기 때문에 턴이 지날수록 비용이 누적됨.
- 캐시 TTL 설정 — 기본 5분 설정이 아닌 1시간 캐시 쓰기가 제대로 적용되는지 확인이 필요함.
- 세션 관리 — 유휴 상태 압축이 작동하지 않을 경우 세션 로그를 수동으로 검토해야 함.
왜 OMP에서 Opus 5.5 처음 쓸 때는 잘 돌아가다가, 어느 순간부터는 사용량을 미친 듯이 잡아먹는 거냐? 이거 뭐 캐싱 문제라도 있는 거냐? 400k에서 컴팩트(compact)를 해줘야 하는 건가? 아니면 대체 왜 이러는 거임?
캐시가 한 시간 동안 유지되는 건 확실한 것 같은데, 정확히 어떻게 돌아가는 건지 잘 모르겠네. 지금 850k에서 컴팩트되게 설정해 놨거든. 좀 방치했다가 컨텍스트가 35% 넘어가면 /handoff를 쓰는데, 그러면 좀 나아지는 것 같긴 함.
