Token speed difference, FYI
모델별 토큰 생성 속도와 효율성에 대한 사용자들의 불만과 Claude로의 이탈 현상이 두드러짐.
사용자들은 토큰 속도와 실제 작업 효율의 차이에 주목하며, 모델들의 속도 저하 추세에 대해 다양한 의견을 나누고 있음.
근데 TIBO가 속도 고쳤다고 했잖아! 난 TIBO를 내 목숨처럼 믿어. 그는 정말 정직한 사람이라서 자기 주인님인 사기꾼 Altman을 위해 절대 거짓말 안 할 거야. 19.9 토큰/초가 새로운 129 토큰/초라고, 알겠어?! 😭😡
시간은 상대적이라지.
그리고 이 벤치마크들도 상대적인 거지. OpenAI 모델들을 뛰어넘는 가짜 모델들을 포함하는 경향이 있어서 말이야. 진짜 사기극이지!
그리고 컴팩팅은 진짜 농담 수준임.
Codex 3분 30초
Claude 1분 05초
Codex X20을 9개월 동안 쓰다가 Claude로 갈아탔음. 품질, 성능, 할당량 모든 면에서 훨씬 나음.
나도 Claude로 돌아갔음. OAI는 완전히 맛이 갔어.
Opus가 같은 시간에 더 많은 작업을 처리하긴 하지만, 모델 간 토큰 속도 비교가 실제 작업 효율을 말해주지는 않음. 난 모델을 비교할 때 토큰 속도보다는 작업당 비용 벤치마크를 보는 걸 선호함. 또 하나 보는 건 같은 모델의 API 토큰 속도와 서브 토큰 속도를 비교하는 거임. 예를 들어, OpenAI의 서브 토큰 속도는 일관되게 API 모델 속도의 25%-33% 수준이었음. Opus에 그런 문제가 없다면, 왜 Opus를 쓰는 게 훨씬 더 쾌적하게 느껴지는지 설명이 됨.
님 시간은 공짜임? 난 아닌데. 시간도 비용의 일부임.
130 토큰이라니 미쳤네, 와. 다음 달부터 Claude 써봐야겠다.
느낌상 얘네도 OAI 따라갈 것 같음. 속도 늦추기로 합의 본 듯 🤔
예전엔 Codex로 컴팩션 작업 진짜 빠르고 효율적이었던 거 기억나는데, 지금은 너무 느려져서 우울할 지경이다...
codex는 256k에서 압축하고 claude-code는 1M에서 압축한다는 건 말할 것도 없지 ㅋㅋ
음, 시간도 요소인 건 맞는데, 결국 최종 벤치마크는 성공적으로 완료된 작업임. 특히 더 적은 토큰으로 완료하는 게 더 좋으니까. 게다가 에이전트 하나가 일하는 걸 멍하니 쳐다보느라 시간을 다 쓸 필요도 없음. 시간이 문제라면 동시성을 높이면 됨(Opus 5.5는 동시성 높이기가 더 쉬움).
토큰 속도가 작업당 소요 시간은 아니라고 명확히 했어야 했는데. 토큰 속도보다는 작업당 소요 시간 벤치마크를 보는 게 더 나음. Luna가 '가장 빠른 OpenAI 모델'이라고 광고됐던 거 기억하지? 근데 다들 알다시피 그건 아무 의미 없었음. 왜냐면 실제로는 현재 제공되는 모델 중 작업당 소요 시간이 제일 느리거든. 작업이 엄청 단순한 게 아니라면 Luna는 속도 면에서 좋은 선택이 아님.
☝️ 보면 딱 알 거임
바이럴 마케팅하는 것처럼 보이고 싶진 않지만, 난 Claude에 아주 만족하고 있음. Opus 5.5는 오케스트레이션이랑 계획 짜는 데 최고임. Sonnet 5.5가 구현을 담당하고 다시 보고하는 식으로 쓰고 있어.
가끔 더 작은 작업에는 Luna를 서브 에이전트로 쓰는데, 안정적이고 저렴해서 좋더라. 근데 그거 말고는 지금 시점에 Codex나 GPT는 딱히 쓸 가치가 없는 것 같음.
아, 그리고 뱅크된 리셋은 주간 리셋 타이머나 쿨다운을 초기화해주지 않음.
(2주 뒤에 또 모든 게 바뀔 때까지는 말이지 lol)
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
Mistral의 신규 모델 소식이 없어 사용자들의 우려와 유럽 AI 환경에 대한 비판적 토론이 이어지고 있습니다.
Claude와 Gemini 등 최신 AI 모델 간의 치열한 경쟁과 사용자들의 이동 현상에 대한 반응입니다.
Claude와 Gemini 등 최신 AI 모델 간의 치열한 경쟁과 사용자들의 이동 현상에 대한 반응입니다.
