Anyone moved away from Together.ai? Looking for alternatives
Together.ai의 비용과 불안정한 지연 시간 문제로 대안을 찾는 사용자의 질문입니다.
추론용으로 Together.ai를 사용해 왔는데, 프로젝트 규모가 커지면서 가격을 정당화하기가 어려워지고 있습니다. 지연 시간도 좀 일관적이지 않고요. 다들 대신 뭘 쓰고 계신가요? 괜찮은 모델 선택지를 갖춘 곳을 찾고 있습니다.
사용자들은 Together.ai의 대안으로 OpenRouter를 가장 많이 추천하며, 규모에 따라 Groq, DeepInfra 등 목적에 맞는 다양한 서비스를 제안하고 있습니다.
저는 Featherless.ai랑 OpenRouter.ai 써요.
흥미롭네요, 확인해 볼게요. 감사합니다!
셋 중 뭐가 문제인지에 따라 다르죠. 폭넓은 모델 선택이 중요하다면 OpenRouter(이미 언급됐지만)를 따라올 곳이 없어요. 거의 모든 제공업체를 다 끼고 있어서 느린 곳은 알아서 우회해주니까 지연 시간 문제 해결에도 도움이 되거든요. 순수하게 속도가 목적이라면 오픈 모델용으로는 Groq나 Cerebras가 차원이 다릅니다. 그리고 규모가 커져서 순수하게 비용이 문제라면 DeepInfra나 Fireworks가 토큰당 단가는 더 저렴해요. 하지만 일정 수준 이상의 볼륨이 넘어가면 전용 엔드포인트나 대여한 GPU에 직접 호스팅하는 게 보통...
저는 OpenRouter를 쓰고, 자체 API가 있는 모델들은 그걸 직접 사용해요.
단순히 비용 문제뿐만 아니라, 지연 시간이 들쭉날쭉한 것 때문에 결국 갈아타게 됐어요.
난 Runpod 써. 내 경험상 Together 가격이랑 안정성이 최악임.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
일론 머스크가 공유한 AI 모델 순위표에서 Gemini가 하위권으로 평가받자 커뮤니티에서 논쟁이 벌어짐.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.
AI 에이전트들이 담배를 피우며 여유를 부리는 영상에 대한 유머러스한 반응과 원작에 대한 고찰이 이어짐.