Flash 3.7은 ArtificialAnalysis에서 가장 저렴하고 빠른 모델이면서 상위 20위권에 진입함.

모델 속도를 가정해서 생기는 레이스 컨디션일지도 모르겠네.

작업 내용에 따라 다르지. 벤치마크처럼 사고 과정이 중요한 작업에서는 속도보다 효율적인 모델이 필요해. 하지만 처리해야 할 파일이 크거나 글을 써야 할 때는 빠른 모델이 더 낫지.

사람들이 Gemini를 사용하는 대부분의 작업(코딩은 극히 일부라는 점을 기억해)에서 tps는 속도를 판단하는 확실히 좋은 지표야. 실제로 다른 모델들과 비교해도 정말 빠르고. 그들은 대다수의 사용 사례에서 비용을 절감하려 하는 거고, 목표만 달성된다면 특정 분야에서 약간의 손해를 보는 건 괜찮다고 보는 거지. 이런 트레이드오프를 선택한 거야(둘 다 잡을 수도 있었겠지만, 시간적 여유가 없었을지도 모르지).

그래, 그래서 뭐? max thinking 모드에서도 여전히 엄청나게 싼데.

비슷한 결과물을 얻기 위해 10배나 더 긴 시간을 기다려도 괜찮다면, 뭐 잘된 일이네. 하지만 어떤 사람들은 시간을 더 중요하게 생각하고, 이 모델이 바로 그걸 제공하는 거야.

그래, 하지만 내가 시간과 결과물을 중요하게 생각한다면 Gemini 3.7만큼 빠르면서 성능은 훨씬 뛰어난 Sol ultrafast를 쓰겠어. 그리고 대부분의 경우, 난 모델의 생성 시간보다는 컴파일 시간 같은 것들에 발목이 잡히거든.

물론 그걸 구할 수만 있다면, 나열된 어떤 옵션보다 훨씬 낫겠지. 하지만 API로도 제공되지 않고, 현재 극소수의 기업만 접근할 수 있잖아.

슬프게도 그건 사실이야. 우리 회사는 접근 권한이 있긴 한데(지금은 미친 듯이 비싸지만). API 접근이 가능해지면 정말 좋을 텐데.

맞아, 모델 처리 시간이 내 작업의 가장 큰 병목 구간이라 API가 있으면 정말 대박일 텐데, 너희한테는 엄청 비싼가 보네. Sol의 결과물은 정말 훌륭하다고 생각하지만, 너무 느려서 문제야. 그래서 절대적인 최고 품질이 필요하지 않을 때는(혹은 처리되는 동안 커피 한잔할 여유가 없을 때는) Flash가 더 낫더라고.