Cheepseek Phase 2 : full precision?
Cheepseek 2단계 발표에 대한 환영과 함께, 비공개 양자화 버전 제공 의혹에 대한 명확한 해명을 요구하는 글입니다.
Cheepseek 발표는 진짜 대박 뉴스고 기쁜 일인 거 확실한데, 여기저기서 공개되지 않은 양자화 버전이 제공되는 거 아니냐고 징징대는 사람들이 너무 많네.
이거에 대해서 확실하게 답변 좀 해줘.
Cheepseek 발표에 대한 궁금증과 함께 Zai 사용 비용 및 효율적인 설정 방법에 대한 기술적인 논의가 이루어지고 있습니다.
난 이미 GLM 5.3 Flash랑 GLM 5.3 생태계로 넘어갔음. 주당 22억 토큰 넘게 쓰면서 월 50달러 내는 중.
OpenRouter에서 DeepSeek v4.1을 미친 듯이 싸게 제공하는 업체들을 봤음. Interference 같은 데는 입력 0.035달러, 출력 0.29달러, 입력 캐시 0.001달러 수준임... 많은 업체들이 DeepSeek 정가보다 1/3 저렴하게 캐시를 제공하더라고. 아마 그중 하나가 모델을 공급하는 거 아닐까 싶음.
최소 Q4 정도면 만족할 듯. 그보다 낮으면 그냥 농담 수준이지.
내가 마지막으로 확인했을 때 z.ai 구독은 그냥 모델 API 가격이랑 똑같았음. 짜증 나는 제한만 붙어있고. 내가 마지막으로 확인한 이후로 구독 혜택이 개선된 게 아니라면 말이지.
수정: 방금 계산 다시 해봤는데, OpenRouter에서 GLM Flash 5.3으로 1B 사용하면 12달러 나오네. 8월에 내가 쓴 실제 코덱 사용량 기준으로 계산한 건데, 입력 1B, 출력 5.6M, 캐시 적중률 95%였음. 출력량이 좀 적어서 실제 사용량에 따라 다르겠지만, 20달러 구독으로 제공되는 양이랑 대충 비슷한 수준임: https://docs.z.ai/devpack/overview#usage-instruction
아니 API 가격의 1배는 아님. 그 숫자를 어디서 가져왔는지는 모르겠는데, 플랜 대비 달러 가치가 떨어지는 GLM 5.3 flash조차도 아님. 12달러면 토큰 플랜으로 GLM 5.3 일반 토큰을 거의 7억 개 가까이 쓸 수 있었을 거임. 7억 개의 GLM 5.3이 12달러 근처도 안 할 거라는 건 확실함. zcode를 쓰는 12달러짜리 라이트 플랜으로는 한 달에 약 20억 토큰을 얻는데, 이건 모든 GLM 5.3 Flash 사용량을 가정한 거고 매주 받는 주말 토큰 3억 개는 포함 안 된 거임. 아마 합치면 32억에서 35억 토큰 정도 될 텐데, 라이트 플랜이 가성비 제일 구린 플랜임. 중간 플랜은 추천인 할인 받으면 56달러고 GLM 5.3 Flash로 약 130억 토큰 정도 됨. 그러니까 12달러에 28억 토큰에 주말 무료 토큰까지 얹어주는 셈이지. GLM 5.3이 가성비가 좋은데, 12달러에 한 달 6억 7천만 토큰인 반면 API로 하면 230달러 가까이 나올 거임. 56달러짜리 GLM 5.3 플랜은 주당 9억 토큰에 GLM 5.3 flash는 주당 27억 토큰 정도 됨. 내가 GLM 5.3이랑 GLM 5.3 Flash를 엄청 많이 써서 중간 플랜으로 한 달에 113억 토큰 정도 썼음. 내 사용량이면 API로는 1250달러 가까이 나왔을 텐데 난 56달러 냈음. 그냥 Zcode 쓰고 피크 타임 몇 시간만 피하면 됨. 어려운 것도 아님.
무슨 소리 하는 거야? Off peak GLM 5.3 flash는 구독했으면 10월 7일까지 무료야.
구독 안 했으면 여기서 10% 할인받고 제일 싼 플랜 하나 잡아: https://z.ai/subscribe?ic=W5G2IFDWOW
z 코드 꼭 써라 - 하루 10시간 동안 5개 세션을 무료로 동시에 돌릴 수 있게 해줌
속도는 어떰? 5.3 flash는 go에서 거북이 수준임. 도저히 못 쓰겠더라.
ㄹㅇ. flash는 개뿔 하나도 안 빠름.
플랜 쓰기엔 괜찮음. 추천인 코드 쓰고 분기 결제하면 중간 플랜은 돈값 함. zcode 꼭 쓰고 피크 타임은 피하셈. 아시아 살면 피하기 힘들 수도 있는데 서구권이면 어차피 우리가 절대 안 쓸 이상한 시간에 피크 타임이 걸려서 상관없음.
난 월 19달러짜리 Z.ai 구독 중인데, 5시간 제한 때문에 GLM-5.3-Flash 스레드 하나도 오프 피크 타임에 논스톱으로 못 돌리겠음. 20달러짜리 OpenAI 구독이면 5시간 제한 한 번에 GPT-6 Luna 최대 사용량의 최소 3~5배는 쓸 수 있는데, GPT-6 Luna가 API 가격도 대충 비슷하거든. Z.ai한테 낚여서 분기 플랜 결제한 기분임.
zai에 19달러나 내고 있다고? 분기별로 하면 12달러 정도일 텐데. Zcode 쓰고 있는 거임? 그거 쓰면 한도 50% 늘어나서 차이 엄청 큰데... 게다가 주말마다 300M 무료로 뿌리니까 단일 스레드 돌리기엔 충분하고도 남을 텐데. 그리고 혹시 전부 Max로 돌리고 있는 거임? glm 5.3 flash는 거기서 쓰면 좀 별로거든.
이거 OpenRouter 쓰는 건가요?
양자화는 잘 모르겠는데, 개인적으로는 API 에러가 훨씬 많이 뜨는 중임
내 경험상 속도도 점점 느려지고 있음
굿
그 발표가 뭔데?
자율주행 트럭이 모래 4만 파운드를 쏟은 사고를 보고, AI가 GPU를 만들기 위해 벌인 일이라며 농담하는 커뮤니티 반응.
자율주행 트럭이 모래 4만 파운드를 쏟은 사고를 보고, AI가 GPU를 만들기 위해 벌인 일이라며 농담하는 커뮤니티 반응.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
