왜 우리는 토큰을 더 많이 쓰는 걸 자랑스러워하는 거지?

진지하게 묻는 건데,

어제 여기서 누가 프롬프트 결과 잘 뽑으려고 "토큰맥싱(tokenmaxx)" 한다는 소리 하는 거 보고 진짜 폰 내려놓고 한참 벽만 쳐다봤다.

아니, 더 좋은 프롬프트를 쓰거나 사람을 쓰면 될 일을 굳이 돈을 더 써가면서 똑같은 결과물을 얻겠다고?

앤스로픽이 Opus 4.8 내놓으면서 "노력 조절(effort control)" 슬라이더까지 추가했거든. AI한테 더 깊게 생각하라고 시킬 수 있는 건데, 개발자 커뮤니티 반응이 "오 개꿀, 이제 모든 작업에 토큰 3배씩 태울 수 있겠네" 이러고 있더라. 형제여, 그건 승리가 아니야.

계산 한번 해보자. Opus 4.8이 출력 토큰 100만 개당 25달러거든? 처음엔 싸 보이지. 근데 하루 종일 에이전트 워크플로우 돌리다 보면 어느 순간 월 청구서가 자동차 할부금 수준으로 찍혀 나올걸. 동유럽 주니어 개발자 한 달 월급이랑 비슷한 수준인데, 걔네는 문제 어렵다고 돈 더 달라고 안 해.

"AI는 확장성이 있잖아"라고 말하기 전에, 네 청구서도 같이 확장된다는 거 잊지 마라.

토큰맥싱이니 뭐니 하는 건 그냥 최적화인 척하는 복잡성 중독일 뿐이야. 이런 짓 하는 애들 보면 20분이면 끝날 일을 6시간 동안 자동화하겠다고 뻘짓하는 애들이랑 똑같음. 그거 돌아가게 만들려고 쓴 프롬프트 엔지니어링 시간이 그냥 직접 하는 것보다 더 걸리겠다.

AI가 나쁘다는 게 아님. "토큰을 얼마나 태웠나"를 작업 성공 여부의 척도로 삼는 게 제일 멍청하다는 거지. 문제가 해결됐나? 대안보다 싼가? 이게 중요한 거지.

뭐, 그냥 토큰 카운터 올라가는 거나 구경하면서 살든가.

나 소프트웨어 쪽에서 일하니까 이 정도는 말할 자격 있다.