토큰을 더 많이 태우는 걸 왜 자랑처럼 여기는 거지?

진지하게 묻는 건데,

어제 여기서 누가 프롬프트로 '토큰맥싱(tokenmaxx)'을 해서 더 좋은 결과를 얻는다는 소리를 하길래, 폰 내려놓고 한참 동안 벽만 쳐다봤다.

아니, 더 좋은 프롬프트를 짜거나 차라리 사람을 쓰는 게 훨씬 나은데, 굳이 돈을 더 써가면서 똑같은 결과물을 뽑아내겠다고?

Anthropic이 opus 4.8에 '노력 조절(effort control)' 슬라이더를 넣어서 AI가 더 깊게 생각하게 만들 수 있게 됐거든? 근데 개발자 커뮤니티 반응이 "오 개꿀, 이제 모든 작업에 토큰 3배씩 태울 수 있겠네" 이러고 있음. 형제여, 그건 승리가 아니야.

아무도 계산 안 해보는 실제 수학 좀 읊어줄게. opus 4.8은 출력 토큰 100만 개당 25달러야. 하루 종일 긴 에이전트 워크플로우 돌리다 보면 어느 순간 월 청구서가 자동차 할부금 수준으로 찍히는 걸 보게 될걸? 동유럽 주니어 개발자 한 달 월급이랑 비슷한 수준인데, 걔네는 문제가 어렵다고 돈 더 달라고 안 해.

"근데 AI는 확장이 가능하잖아"라고 말하기 전에 알아둬. 네 청구서도 같이 확장되니까.

'토큰맥싱'이라는 거, 그냥 최적화인 척하는 복잡성 중독일 뿐이야. 이런 짓 하는 애들은 20분이면 끝날 일을 6시간 동안 자동화하겠다고 뻘짓하는 애들이랑 똑같음. 그거 돌아가게 만들려고 프롬프트 엔지니어링 하는 시간이 그냥 직접 하는 시간보다 더 들어.

AI가 나쁘다는 게 아님. "토큰을 얼마나 태웠나"가 일이 잘 됐는지 판단하는 최악의 지표라는 거지. 문제가 해결됐나? 대안보다 싼가? 이런 걸 따져야지.

뭐, 그냥 토큰 카운터 올라가는 거나 구경하면서 살든가.

나 소프트웨어 업계 종사자니까 이 정도는 말할 자격 있다.