Messages API에 새 기능이 추가되었습니다. 대화를 한 번만 보내면 이후 매 턴마다 새로 추가된 내용만 API로 전달됩니다.
메시지 스레드(message threads)가 Claude Platform에서 퍼블릭 베타로 공개되었습니다. 이제 에이전트는 매 턴마다 전체 대화 기록을 다시 보내지 않아도 되므로, 장시간 실행되는 세션의 지연 시간이 줄어듭니다.
코딩 에이전트는 한 세션에서 수백 번 요청을 보낼 수 있고, 요청할 때마다 이전 메시지와 도구 실행 결과를 모두 다시 전송합니다. 대화가 수십만 토큰에 이르면 이 전체를 다시 보내는 데만 시간이 걸려, Claude가 응답을 시작하기까지 그만큼 더 기다리게 됩니다. 메시지 스레드를 쓰면 에이전트는 직전 턴 이후 새로 생긴 내용만 보내므로 첫 토큰까지 걸리는 시간(TTFT)이 줄어듭니다.
대부분의 Claude Code 사용자에게는 메시지 스레드가 기본으로 켜져 있으며, 토큰이 50만~100만 개인 요청에서 TTFT 중앙값이 약 35% 감소했습니다.
메시지 스레드를 사용하려면 Messages API 요청에 thread 파라미터를 추가하세요. 첫 요청에는 전체 대화를 담아 보내 스레드를 시작합니다. 이후 요청에는 새 메시지와 직전 응답의 ID만 포함하면 됩니다. 각 스레드는 턴 사이에 메모리에 보관되며, 암호화되어 디스크에는 기록되지 않습니다. 스레드는 마지막 요청 후 5분이 지나면 만료되고, 이때는 클라이언트가 전체 대화를 다시 보내 새 스레드를 시작해야 합니다. 메시지 스레드를 쓰면 요청 크기는 작아지지만, Claude는 매 턴 전체 대화를 읽기 때문에 토큰 사용량은 그대로입니다.
메시지 스레드는 지연 시간이 중요한 활성 세션에 특히 적합합니다. 예를 들면 다음과 같습니다.
에이전트가 다루는 컨텍스트가 많을수록 메시지 스레드로 TTFT를 더 크게 줄일 수 있습니다.
메시지 스레드는 네이티브 Claude Platform과 Claude Platform on AWS, Claude in Microsoft Foundry, Claude Models on Google Cloud(Anthropic 관리형)에서 지금 퍼블릭 베타로 사용할 수 있습니다. 요금은 기존 Claude 토큰 요금이 그대로 적용되며, 기존 사용량 제한(rate limit)도 동일하게 적용됩니다. 시작하는 방법은 문서를 참고하세요.
