does concise mode save tokens?
Concise 모드가 토큰 절약에 미치는 영향은 미미하며, 대부분의 토큰은 출력보다는 추론 과정에서 소모됩니다.
와이프 남친 대신 물어봄
대부분의 사용자는 Concise 모드가 토큰 절약에 큰 도움이 되지 않으며, 전체 비용에서 출력 토큰이 차지하는 비중이 매우 낮다는 점에 동의하고 있습니다.
왜 많은 단어를 써서 시간을 낭비함? 적은 단어로도 충분한데.
맞음, 그냥 '내 불륜 상대'라고 해.
적은단어가더나음.
딱히 그렇지 않음. 사용되는 토큰 대부분은 추론 루프에서 발생하지 모델의 출력에서 나오는 게 아님. 그래서 모델 출력을 50% 줄여도 전체 토큰 대비 1% 정도 절약될 뿐임.
문제는 어떤 모드가 더 간결(Concise)하냐는 거임
나도 아직 헷갈림
말을 줄이면 토큰도 줄어듦
맞음, 출력 토큰이 조금 줄긴 하지만 대부분의 경우 전체 토큰 수에서 차지하는 비중이 너무 작음. 대부분은 추론임.
아들
토큰뿐만 아니라 네 정신 건강도 챙겨줌
이게 아무리 간단한 수정이라도 수정할 때마다 퇴보하는 Opus 5 문제를 해결해주긴 함?
거의 안 됨. 내 기기에서 137개 세션 파일, 71,098번의 어시스턴트 턴을 분석해보니 출력은 전체 토큰의 0.13%였음. 284억 개의 입력 토큰 대비 3,670만 개의 출력 토큰이었지. 중간값으로 보면 336k 토큰의 컨텍스트를 다시 보내고 286 토큰을 작성함. 사고 과정(Thinking)은 출력으로 청구되니까, 그 0.13% 안에 포함되는 거지 추가되는 게 아님.
맞음, 조금은 됨. 출력 토큰 절약만 놓고 봤을 때 청구서에서 1% 이하 정도 깎아줄 거라는 게 내 반쯤 확신 섞인 추측임.
오름차순으로 정렬된 거 아님? 그럼 Proactive가 더 간결해야 하는 거 아닌가?
Default가 보통 Code의 다른 옵션과 대응되니까, 그냥 Concise로 매핑된다고 들었음.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
GPT-3 서비스 종료에 대한 아쉬움과 함께, 기업의 일방적인 모델 폐기 정책을 비판하며 로컬 모델 보존의 중요성을 강조하는 반응들.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
