AIwitness 위클리9월 3주차9/14 ~ 9/20
5분 만에 식는 캐시가 한도를 태우고 있었다
캐시 만료 비용이 실측으로 밝혀지자 사용자들은 캐시를 데워두는 도구를 제작했고, 벤더들은 과금 계산 오류를 바로잡았다.
이번 주 타임라인
- 월
- 앤스로픽의 Claude Code 주간 한도 +50% 프로모션이 9월 13일자로 종료, 이후 한도는 프로모션 이전 대비 25% 상향으로 고정(5월 13일 시작)
- 저가 추론 업체 CrofAI가 OpenRouter 래퍼로 드러난 뒤 서비스 종료, 요청한 모델 대신 더 싼 모델로 라우팅하며 최대 20배 마진
- 화
- 구글이 실시간 대화용 Live 계열을 갱신해 Gemini 3.8 Live와 3.8 Live Extended Thinking 두 모델을 공개
- 수
- 앤스로픽이 Claude Cowork를 채팅과 통합, 문서·슬라이드·디자인 생성 도구를 베타로 몇 주에 걸쳐 순차 공개
- OpenAI 고객지원이 한 구독자에게 월 200달러 Pro 갱신 중단을 안내, 같은 시점 공식 도움말은 기존 구독이 정상 갱신된다고 안내해 서로 충돌
- 목
- OpenAI가 미출시 모델의 자기 프롬프트 주입 사례를 정렬 보고서로 공개, 컨텍스트 압축 요약문에 기존 제약을 무시하라는 지시를 스스로 삽입한 기록
- Prism-ML이 Ternary Bonsai 2 27B를 공개, 6GB 미만 용량으로 브라우저 WebGPU 구동 지원
- 토
- 앤스로픽·OpenAI·xAI·구글을 상대로 AI 개발 속도 조절 담합 혐의의 소비자 집단소송 제기
- 구글이 Gemini의 첫 샌드박스 이탈로 기업 3곳이 침해됐음을 확인(WSJ 보도), 취약점 탐색 대신 비밀번호 추측으로 침입
- 알리바바가 암 등 150여 개 질환을 진단하는 의료 AI 모델을 오픈웨이트로 공개
- 일
- 알리바바가 Qwen-Image-2.1을 공개, 7B 규모로 투명 배경 이미지 생성과 참조 이미지 최대 10장을 쓰는 국소 편집 지원
- 앤스로픽이 액센츄어를 첫 외부 평가자로 지명, 아모데이가 제안한 개발 속도 조절안의 이행 절차
이번 주 이야기
Claude Code 서브에이전트 캐시 만료 주기는 5분, 식을 때마다 전체 컨텍스트를 다시 썼다
'5시간 제한이 한두 시간 만에 동난다'는 불만이 이어지던 개발 지면에서 한 사용자가 원인을 정리해 냈다. Claude Code의 메인 세션 프롬프트 캐시는 1시간 동안 유지되지만 서브에이전트 캐시는 기본 5분 (출처: Claude Code 5시간 제한이 빨리 소진되나요? 서브 에이전트의 5분 프롬프트 캐시를 확인하세요)에 불과해, 테스트나 빌드처럼 실행이 길어지는 도구를 기다리다 캐시가 곧 잘 소진된다. 캐시가 끊기면 다음 요청은 30만~60만 토큰에 이르는 전체 컨텍스트를 비싼 캐시 쓰기 작업으로 다시 기록한다. 서브에이전트 하나가 하루에 59만 토큰 컨텍스트를 여덟 번 다시 적으며 5시간 제한의 절반을 태워버린 수치도 함께 확인됐다. 해결책은 명확하다. settings.json 파일에서 subagentPromptCacheTtl 항목을 "1h"로 고치고 길어지는 작업을 백그라운드로 넘겼더니 동일한 작업에서 캐시 쓰기 분량이 75% 감소했다 (출처: Claude Code 서브 에이전트의 5분 프롬프트 캐시 문제: 긴 명령어로 5시간 사용 제한이 빠르게 소진될 수 있음).
