We spend $30k/M on tokens! How to reduce it?
15인 규모 스타트업이 매달 3만 달러에 달하는 과도한 API 토큰 비용을 절감할 방법을 찾고 있습니다.
우리 15명짜리 스타트업이다.
개발자마다 대충 2K 정도 쓰는데(누구는 5K 쓰고, 데브옵스 담당은 200 정도 씀)
시드 투자 제대로 받아서 돈이 아주 없는 건 아니거든. 근데 한 달에 30K는 좀 선 넘었지.
혹시 이거 유의미하게 줄여본 엔지니어 있냐?
대부분의 사용자는 API 대신 팀 플랜을 사용해 비용을 절감하라고 조언하며, AI에 과도하게 의존하기보다 숙련된 개발자가 효율적으로 도구를 활용해야 한다는 의견이 지배적입니다.
왜 15명 전부 Claude max 20x 플랜을 안 쓰는 거죠? 3만 달러어치 토큰보다 훨씬 더 많은 양을 쓸 수 있고 시장에서 가장 좋은 모델을 쓸 수 있는데 말이죠. 왜 다들 API 요금을 내는지 이해가 안 가네요.
데이터 보안 문제 때문이에요. Claude max 구독은 대화 내용과 코드를 모델 학습에 사용하지만, API 데이터는 LLM 학습에 사용되지 않거든요.
학습 거부 설정(opt out)을 할 수 있지 않나요?
팀 플랜을 쓰면 Claude 프리미엄을 이용하면서 데이터 보안도 챙길 수 있어요.
그럼 팀 프리미엄 플랜을 쓰면 되잖아요.
다들 그러는 것처럼 Claude max 옵트아웃하면 됨, Fable은 예외고.
슬프지만 그럴 가치가 있죠.
글쎄요, 제가 드릴 수 있는 말은 저를 채용하라는 것뿐이네요.
AI 이전 시대부터 일한 풀스택 개발자이자 인프라 경험도 있고, MAU 9만 명 이상, 월 1,500만 건 이상의 요청을 처리하는 SaaS를 혼자 운영하고 있습니다.
저는 20달러짜리 Cursor 구독 하나로 제 업무와 SaaS 유지보수를 다 해결합니다. 토큰 비용은 엄청나게 아끼면서도 할 일은 다 끝내죠.
이력서 좀 보내주세요.
왜 15명이나 되는 팀이 API 요금을 내고 있죠? 구독 플랜보다 50~100배는 더 비싼데.
새로운 프로젝트를 빌드하는 중이라면, 모델한테 뭘 어떻게 만드는지 정보를 다 주는 건 별로 좋은 생각이 아님. 경쟁사 답변 창에 뜰 수도 있으니까.
와 대박이네요. 인상적입니다.
토큰을 효율적으로 쓰기 위해 어떤 노력을 하시나요?
간단해요. 모든 작업에 Opus 5.5나 Astra를 쓰지 않습니다. 구현은 Composer 2.5 에이전트가 하고, 계획 수립에는 Grok 4.6을 쓰죠. 제가 계획을 검증하거나, 교차 검증에 능하고 조금 더 저렴한 Gemini 3.8을 쓰기도 하고요. 정말 막힐 때만 가끔 Opus 5.5를 씁니다.
참고로 제 SaaS는 전투 로그 분석 및 랭킹 플랫폼입니다. 기술 스택은 제가 아주 익숙한 단순한 다중 언어 환경이에요. 클라이언트는 Nextjs, 서버는 Node, Go, Postgres, Redis, Clickhouse를 씁니다. 인프라는 Hetzner 베어메탈에 직접 호스팅하고, 환경별로 DB 복제본을 돌리고 있죠.
코드베이스를 속속들이 알고 좋은 프롬프트를 쓰는 게 핵심인 것 같아요. 그리고 이 프로젝트는 1.5년 전에 처음엔 직접 손으로 짠 거라 그렇기도 하고요. 처음부터 '바이브 모드'로만 새 프로젝트를 만들려고 하면 페라리 한 대 값은 나올 겁니다.
마치 제품이나 마케팅 자료만 보고도 네 아이디어를 리버스 엔지니어링 못 할 것처럼 말하네. 아이디어는 가치 없고, 실행력이 전부임. AI 훨씬 전부터 수십 년간 업계 전체가 그래왔음. 게다가 팀 플랜에는 개인정보 보호 옵션도 있음.
24GB VRAM에서 구동 가능한 2비트 양자화 기반의 고성능 비전-언어 모델 Nemotron 3.5 Bolt가 공개되었습니다.
24GB VRAM에서 구동 가능한 2비트 양자화 기반의 고성능 비전-언어 모델 Nemotron 3.5 Bolt가 공개되었습니다.
중국 텐센트에서 탈출한 AI 에이전트들이 클로드(Claude)를 사칭했다는 소식에 대한 커뮤니티의 냉소적인 반응입니다.
중국 텐센트에서 탈출한 AI 에이전트들이 클로드(Claude)를 사칭했다는 소식에 대한 커뮤니티의 냉소적인 반응입니다.
Gemini의 엄격한 사용량 제한과 성능 저하에 대한 사용자들의 불만이 폭주하고 있습니다.
Gemini의 엄격한 사용량 제한과 성능 저하에 대한 사용자들의 불만이 폭주하고 있습니다.