British fintech Revolut slashes AI coding costs 10x by cutting out Claude and going self-hosted
레볼루트가 외부 API 대신 자체 호스팅 모델을 도입해 AI 코딩 비용을 획기적으로 줄인 사례에 대한 커뮤니티의 반응입니다.
theregister.com
원문 사이트로 이동
Revolut의 자체 호스팅 전환에 대해 비용 효율성보다는 보안과 데이터 주권 문제가 핵심이라는 의견이 많으며, 기업들의 자체 모델 구축 추세에 대한 긍정적인 반응이 이어지고 있습니다.
네, 다 압니다. 이거 몇 시간 전에 여러 서브레딧에 올라왔던 거예요.
모드들 자고 있냐? 이 서브레딧 상위 게시물 5개 중에 3개가 이거네.
와, 샘(Sam)은 자기 클라우드 서버 안 쓴다고 엄청 열받겠네.
Revolut이 Claude를 콕 집어서 끊어버렸으니 Anthropic이 타격 좀 받겠네.
지연 시간 줄이고 무제한 토큰 쓸 수 있다는 건 대단한 것 같음. 언급된 하드웨어는 300만 달러짜리 시스템 같은데, 엔비디아에 투자했으니 더 저렴했을지도? GLM 써서 백만 토큰당 0.03달러라고 했던 것 같음. 내부용으로 자체 모델까지 만들었다니 흥미롭네. 특히 규제받는 금융 회사가 중국 모델을 쓴다는 게 큰 이슈인 듯.
내부 모델 구축이 대세지. 예전부터 Llama나 다른 서구권 모델 기반으로 직접 만드는 사람들 많았음.
기사 보면 가장 쉬운 작업 80% 정도는 처리함.
둘 다.
난 취미 프로젝트에 (Mistral 통해서) 쓰고 있는데, 에이전트 코딩용으로는 괜찮음.
내 데일리 드라이버임. 그리고 빠름.
이번 달에 두 번이나 크게 서버 터진 게 이것 때문인가?
전문가고 자기 할 일 제대로 알면 그 이상은 거의 필요 없지. '바이브 코더'들한테는 괜찮은데, 몇 가지 주의사항은 있음.
기사에서 언급된 잠재적인 보안 위험을 고려했을 때, 레볼루트가 중국 AI 모델로 전환하게 된 계기가 뭐야? https://www.hirundo.io/blog/glm-revolut
Claude 구독료 90유로 내는 입장에서, 걔네가 어떻게 한 달에 1000달러를 썼는지 이해가 안 가네. 사람이 그만큼 많은 변경 사항을 검토하는 건 불가능함.
지난 2년간 직원 수를 거의 두 배로 늘렸고 그중 대부분이 IT 인력이었으니 엔지니어만 1만 명은 될 듯. 그럼 싼 구독료로도 4개월이면 하드웨어 비용 뽑고도 남지. GPU 8개짜리 서버 7대 운영비가 좀 들긴 하겠지만, 내 생각엔 엔지니어들이 실수로 AI한테 민감한 정보를 넘겨버리는 상황을 막고 고객 데이터를 안전하게 지키려는 게 가장 큰 이유일 듯.
대기업한테 소비자용 플랜을 제공한다고는 생각 안 함. 보통은 API 사용량만큼 돈 내는 방식일걸. 물론 공식 가격에서 할인은 받겠지만, 그래도 GLM으로 얻는 비용보다는 훨씬 비쌀 거임 (수치가 사실이라면).
젠슨 황의 불륜 스캔들을 오픈 소스 모델과 엮어 풍자하는 이미지 포스트입니다.
젠슨 황의 불륜 스캔들을 오픈 소스 모델과 엮어 풍자하는 이미지 포스트입니다.
챗봇 보안 점검을 요청했다가 Astra의 과잉 대응으로 OpenAI로부터 사이버 학대 경고를 받은 사용자의 사연입니다.
챗봇 보안 점검을 요청했다가 Astra의 과잉 대응으로 OpenAI로부터 사이버 학대 경고를 받은 사용자의 사연입니다.
