코드 생성에 Haiku만 쓰라고 강요받는 상황 — 우리 얼마나 망한 걸까?

ㄹㅇㅋㅋ!! 구형 맥 몇 대만 있어도 큰 도움이 될 텐데

모델별 성능이나 비용을 테스트하는 평가 지표를 만들어서 인간이 얼마나 똑똑한지 보여줘 봐. 그럼 회사가 막연한 공포나 느낌이 아니라 데이터에 기반해서 모델을 선택할 수 있겠지.

ㄹㅇ. 그리고 모델별로 작업당 비용 벤치마킹도 해봐야 함. 왜냐면 Haiku가 제 성능 못 내서 토큰만 날리는 게, Opus가 한 번에 끝내거나 Opus가 쓸 수 있을 만큼 상세한 명세서를 만드는 것보다 더 비쌀 수도 있거든.

결국 AI 비용이 너무 많이 나오니까 인원 감축은 안 하면서 비용만 줄이려는 거지. 제발 누군가 이 엄청난 AI 비용을 메꾸려고 해고를 감행해서 남은 사람들이 더 좋은 모델을 쓰게 만들겠다는 멍청한 생각을 안 하길 빌 뿐임. 우리 회사는 직원당 한 달에 100달러짜리 구독 플랜 쓰는데, 대충 한 달에 1만 달러 정도 나옴. 나 보조해 줘서 고맙다.

이런 일은 어디서나 일어나고 있음. 뻔한 수순이지: 도입 장려하고, 청구서 받아보고, 사용량 제한하기. 엔지니어마다 개인 토큰 예산 도입하는 회사들 많이 봤는데, 그것도 안 통할 거임. 토큰이랑 가치 사이엔 직접적인 상관관계가 없거든. 일이라는 게 원래 걸릴 만큼 걸리는 법인데, 토큰 다 쓰면 어쩔 거임? 할당량 찰 때까지 손 놓고 기다릴 건가? 내 생각엔 결국 개발사들이 개인 하드웨어에서 오픈 소스 모델을 돌리는 게 최종 형태가 될 거임.

혹시 내년 10월에 사라질지도 모르는 그 Haiku 말하는 거야? (거의 쓸모가 없어서 말이지)