Google AGY 토큰 텔레메트리 분석: Opus 5.5 '안녕' 한마디에 5시간 예산 10% 증발

생각이 담긴 반론 고마워! 몇몇 포인트는 중요한 차이점을 잘 짚어줬고(특히 3번, 내 문구 실수를 잘 잡았어), 나머지는 텍스트 요약에는 빠졌지만 곧 출시될 Antigravity 네이티브 UI 텔레메트리 툴팁에서 직접 답변되는 내용들이야.

각 포인트별 분석은 다음과 같아:

1. "Antigravity 할당량과 공개 API 가격 사이의 정확한 관계는 확립되지 않았다." (4번 포인트)
   사실 이건 곧 출시될 Antigravity 클라이언트 UI 내에서 직접 확립되어 있어. 네이티브 토큰 텔레메트리 팝오버를 열면(Turn과 Grand Total이 Input, Cache, Output -> Thinking / Response와 Generations를 $0.0000 카운터 옆에 보여주는 곳), 툴팁 하단의 비공식 푸터에 다음과 같이 명시되어 있어:

"가격은 공개 API 가격을 기준으로 합니다"
이건 내 가정이 아니라 구글의 인앱 텔레메트리 면책 조항을 인용한 거야.

2. Opus에서 "안녕"이 정말 44.2K 토큰을 청구했나, 아니면 캐시/캐시 쓰기였나? (1번 & 5번 포인트)
   네 주장이 사실이라면 Opus의 할당량 계산은 더 나빠질 뿐이야, 좋아지는 게 아니라:

• 케이스 A (콜드 스타트 / 캐시 쓰기): 완전히 새로운 세션의 1턴에서 대화 기록은 Enter를 누르기 전까지 0이야. 메시지 1을 보내면 하네스는 42.9K 인스트럭션과 툴 + 사용자 프롬프트를 처음으로 전송하게 돼. Anthropic의 공개 API 가격 정책상, 캐시 생성(쓰기) 토큰은 일반 입력보다 싸지 않아; 표준 비캐시 입력보다 1.25배(5분 TTL 시 +25%) 또는 2.0배(1시간 TTL 시 +100%) 더 비싸.
• 케이스 B (웜 프리픽스 / 캐시 읽기): 만약 그 42.9K 토큰 대부분이 이미 0.1x 캐시 읽기 요금으로 서버 측 캐시에 적중하고 있는데, 그 "안녕" 한마디가 여전히 5시간 할당량의 10%와 주간 풀의 5%를 태웠다고 주장한다면, Opus에 할당된 실질적인 달러/토큰 풀은 내가 계산한 442K 비캐시 기준보다 훨씬 더 작다는 뜻이야. 1턴의 44.2K 토큰 전체를 비캐시 입력으로 처리하는 게 할당량 풀에 대해서는 가장 관대한 가정이야.

3. "네이티브 시스템 오버헤드는 직접 측정이 아니라 추정치다." (2번 포인트)
   17,179라는 사용자 커스텀 토큰 수는 추정치가 아니야. 이건 Antigravity의 내장 커스텀 UI 카운터에서 직접 가져온 거야. 이 카운터는 20,000 토큰 제한에 대해 정확한 토큰 예산을 추적해(룰은 7,835/20,000, 스킬/MCP/서브에이전트/워크플로우는 9,344/20,000). 왜 인스트럭션과 툴이 테스트 1(33.8K), 테스트 3(42.9K), 테스트 2(47.9K) 사이에서 변동하는데 내 커스텀 설정은 17.2K로 고정되어 있었을까? Antigravity가 활성 에이전트 루프(테스트 2의 112세대 실행 같은) 동안 레이지 로딩되는 MCP 툴 스키마와 스킬 인스트럭션을 동적으로 주입하고, 모델 패밀리에 따라 툴 선언을 다르게 하기 때문이야. 가장 낮은 유휴 상태 기준(33.8K - 17.2K)에서도 구글의 필수 네이티브 시스템 프롬프트와 내장 툴 선언은 커스텀 룰이 로드되기도 전에 16.6K~25.7K 이상의 토큰을 소비해.

4. "세대당 캐시 토큰 증가는 6.3배가 아니라 3.1배다." (3번 포인트)
   세대당 문구에 대해서는 네 말이 100% 맞아, 잘 짚었어. 섹션 3B에서 세대 수는 2배(55->112, 즉 2.04배)가 되었는데 전체 캐시 토큰은 6.3배(2.6M->16.4M) 뛰었다고 썼지. 마지막 요약 불릿에서 두 개를 혼동해서 "세대당 6배"라고 썼는데, 엄밀히 말하면 세대당 3.1배(47.3K->146.4K 캐시/세대) * 2.04배 더 많은 세대 = 프롬프트 턴당 총 6.31배의 캐시 토큰이 맞아.
   하지만 "캐시 토큰이 일반 입력보다 훨씬 저렴하다"는 네 두 번째 포인트에 대해, 테스트 2(367.9K 입력, 16.4M 캐시, 66.8K 출력)의 가중 API 비용 계산을 해보자. 표준 90% 프롬프트 캐시 할인(0.1x 입력 비용)을 적용하더라도:

• 비캐시 입력: 367.9K 비용 단위
• 캐시 입력(0.1x): 16,400K

상세한 후속 답변 고마워! 중요한 포인트들을 명확히 해줬고, 우리가 의견이 다른 것보다 동의하는 부분이 훨씬 많다는 걸 알겠어.

우선 하나 인정할게: 네 텔레메트리는 내가 처음에 생각했던 것보다 비용 관련 할당량 소모에 대한 더 강력한 증거를 제공해. 그리고 긴 에이전트 세션에서의 캐시 토큰 비용 분석도 수학적으로 타당해.

하지만 여전히 세 가지 중요한 차이점이 남아 있다고 생각해.

1. 공개 API 가격 ≠ 확정된 구독 할당량 회계
   Antigravity의 네이티브 텔레메트리가 가격 추정치가 공개 API 가격을 기준으로 한다고 명시했다면, 그건 가치 있는 증거고 네 설명을 받아들일게.
   하지만 정확한 문구가 중요해.
   "가격은 공개 API 가격을 기준으로 합니다"는 표시된 금전적 추정치가 어떻게 계산되는지를 확립할 뿐이야. 구글의 내부 5시간 및 주간 기준 할당량이 정확히 그와 동일한 금전적 가치를 사용하여 차감된다는 것을 확립하진 않아.
   구글의 공식 문서는 여전히 기준 할당량이 주로 가용 용량에 의해 결정되며, 사용량은 에이전트가 수행한 작업량과 상관관계가 있다고 설명해.
   흥미롭게도 구글은 초과 사용분에 대해 구매한 AI 크레딧이 표준 소비 가격을 따른다고 별도로 확인해주고 있어.
   그 차이가 중요한 이유는 기준 구독 할당량과 유료 초과 크레딧이 반드시 동일한 회계 메커니즘으로 관리되는 건 아니기 때문이야.
   네 가설은 그럴듯하지만, 그걸 증명하려면 표시된 달러 비용과 할당량 퍼센트 변화 사이의 일관된 관계를 여러 통제된 세션에 걸쳐 보여줘야 할 거야.

2. 네 캐시 토큰 비용 계산은 정확하고, 공식 가격 정책이 이를 뒷받침해.
   Gemini 3.8 Flash의 2026년 10월 공개 API 요금을 사용하면:

• 일반 입력: 백만 토큰당 $0.75
• 캐시 입력: 백만 토큰당 $0.075
• 출력(사고 과정 포함): 백만 토큰당 $3.75
  네 테스트 2 비용은 대략:
• 367.9K 일반 입력 토큰: $0.276
• 16.4M 캐시 입력 토큰: $1.230
• 66.8K 출력 토큰: $0.251
  총 예상 API 비용: $1.756
  따라서 캐시 토큰이 예상 비용의 약 70%를 차지해.
  그러니 그래, 네 말이 전적으로 맞아. 90% 캐시 할인이 있더라도 충분히 큰 에이전트 루프는 상당한 비용을 누적할 수 있어.
  Anthropic의 현재 가격 문서에서 흥미로운 세부 사항도 발견했어: Claude Opus 5.5는 표준 0.1x 배율이 아니라 0.05x 캐시 읽기 배율을 가지고 있어.
  캐시 읽기 요금은 백만 토큰당 $0.20로 청구되는데, 일반 입력은 백만 토큰당 $4야.
  할당량 소모를 추정할 때 모델별 가격을 사용하는 게 얼마나 중요한지 보여주는 대목이지.

3. 커스텀 토큰 수는 실제지만, 잔여분이 반드시 고정된 필수 오버헤드는 아니야.
   17,179개의 커스텀 토큰이 조작된 추정치가 아니라 실제 UI 카운터에서 나온다는 점은 동의해.
   내 우려는 산수가 아니라 해석이야.
   총 인스트럭션 및 툴 카테고리에서 17.2K를 빼면 유효한 잔여값이 나오지.
   하지만 그 잔여값에는 동적으로 로드되는 툴 정의, 모델 의존적 인스트럭션, 세션별 구성 요소 및 기타 가변적인 시스템 자료가 포함될 수 있어.
   잔여값이 약 16.6K에서 30.7K로 변한다는 사실 자체가 그게 고정된 게 아니라는 걸 보여줘.
   따라서 전체 잔여값을 피할 수 없는 구글 시스템 오버헤드라고 설명하는 건 증거가 뒷받침하는 것보다 더 강한 주장이야.
   커스텀 설정이 전혀 없는 깨끗한 세션에서 실제 컨텍스트 카테고리를 직접 검사해보면 신뢰할 수 있는 최솟값을 확립하는 데 도움이 될 거야.

4. 네 주간 할당량 비율은 그럴듯하지만, 2회 윈도우 차단이 보장된 건 아니야.
   반올림 범위에 대해서는 동의해.
   Opus의 경우, 표시된 10% 대 5% 감소는 두 미터기가 동일한 소비량을 측정하고 일관되게 업데이트된다고 가정할 때 주간 대 5시간 용량 비율이 1.73배에서 2.33배 사이임을 시사해.