It's actually crazy how good DSv4 Flash 0731 is
최신 AI 모델인 DeepSeek V4 Flash의 성능과 효율성에 대한 사용자들의 열띤 토론이 이어지고 있습니다.
이렇게 빨리 여기까지 올 줄은 몰랐네. 가격 폭등하기 전에 2천 달러도 안 주고 산 컴퓨터로 이걸 돌릴 수 있다니. 세상 참 미쳐 돌아간다.
사용자들은 모델의 뛰어난 효율성에 감탄하면서도, 실무 환경에서의 문서화 부재와 코드 기반의 효율적인 관리 방식에 대해 활발히 논의하고 있습니다.
GLM 5.2가 프로그래밍 작업에서는 여전히 훨씬 앞서 있음. 복잡한 문제에 직면하면 DeepSeek은 쓸데없는 조사에 토큰을 엄청나게 낭비하고, 해결을 못 하면 사용자 탓을 함. 새 Flash 모델에 API 크레딧으로 100달러 넘게 썼는데, 가성비는 아주 좋지만 벤치마크에서 보여주는 것만큼 뛰어나진 않음.
그리고 이제 GLM 5.2랑 파라미터 수는 같은데 성능은 훨씬 인상적인 GLM 5.3이 나왔지.
진짜 이상하네... 100달러라고? 난 꽤 복잡한 코드베이스랑 까다로운 하드웨어 통합까지 포함해서 엄청나게 굴려봤거든. 5억 토큰 넘게 썼는데 2달러도 안 나왔어. 왜냐면 99.6%가 캐시 히트였거든, 이건 거의 공짜나 다름없으니까. 게다가 실수도 거의 안 했고, 솔직하게 자기 한계점도 말해주고 딴길로 새지도 않더라고. 혹시 공식 Deepseek API 쓰는 거 맞아? 거기가 캐시 관리가 제일 잘 되어 있어서 가격에 가장 큰 영향을 주거든. 그리고 'oh my pi'도 한번 써봐 - 이건 팬...
난 지금 Opencode Go를 쓰고 있는데, 10달러 내면 120달러어치 API를 쓸 수 있어. 거긴 캐싱이 덜 효율적일 수도 있겠네, DS API 쓰면 비용이 얼마나 나올지는 잘 모르겠다. 최근에 Opencode DB를 싹 날려버렸는데, 지금은 120m 입력, 51m 출력, 1.1b 캐시 해서 31달러 정도 나왔어.
맞아, 그건 아마 Deepseek 문제가 아니라 OpenRouter(그리고 그 뒤에 있는 수많은 호스팅 업체들) 문제일 거야. 거긴 캐시 히트가 10배에서 100배는 더 비싸니까 비용이 더 많이 들지.
그리고 Opencode도 꽤 비효율적인 하네스야. 이 결과들 좀 봐:
https://www.reddit.com/r/kimi/comments/1vh35ft/i_tested_the_kimi_k3_on_8_agent_harnesses_on_25/
나도 너랑 비슷해. 사무용 금융 앱 만들려고 Deepseek/deepseek-v4-flash-0731(OpenRouter) 쓰는 에이전트 만드는 중인데, 실험을 엄청 많이 했거든. 캐시 히트 진짜 좋더라. 일주일 정도 됐는데 0.09달러밖에 안 썼어. 처음 며칠은 DS Flash가 별로인가 싶었는데, 에이전트를 반복적으로 개선할수록 DS 성능이 더 좋아지더라고. 한 번은 에이전트한테 데이터를 처리할 파이썬 도구를 안 줬다는 걸 깨달은 적도 있었지...
ㅇㅇ 나 프롬프트 캐시 97.5% 찍히더라. 효율 미쳤음.
"무작정 소스 코드 파일 읽지 말고 제발 부탁이니까 문서 좀 읽어"
"사용자가 프로젝트 문서 좀 보라는 뜻이네"
/md 파일 몇 개 읽음/
"좋아, 이제 프로젝트 구조가 좀 이해되네. 다시 달콤한 소스 코드나 읽으러 가볼까..."
나도 똑같이 함! 문서는 거짓말을 하지만 소스 코드는 유일한 진실이지
ㄹㅇ 공감함. 다국적 기업이랑 스타트업 다 다녀봤는데, 문서화는 안 되어 있거나 구식인 경우가 태반임. 난 그냥 소스 코드만 믿음.
문서 30분 전에 생성된 건데도 꼭 이러더라.
꿀팁 하나 주자면, (러스트 스타일로) 코드 내에 문서화하고, AGEBTS.md에 있는 문서화 가이드라인 써서 주석 너무 길어지는 거 방지하셈.
소스 코드에는 없는 설계 의도나 요구사항 같은 것들을 문서로 전달할 수 있는 게 많음. 그리고 소스 코드 자체가 '틀릴' 수도 있음. 문제를 일으키는 나쁘거나 완전히 잘못된 구현이 있을 수 있으니까.
난 동의 못 함. 이거 진짜 좋은데, 아마 네가 제대로 쓸 줄 모르는 거 아님? 그리고 이 모델은 특히 harness가 엄청 중요함.
SSD 스트리밍을 활용해 VRAM 용량을 초과하는 대형 MoE 모델을 저사양 하드웨어에서 구동하는 추론 엔진을 개발함.
SSD 스트리밍을 활용해 VRAM 용량을 초과하는 대형 MoE 모델을 저사양 하드웨어에서 구동하는 추론 엔진을 개발함.
Claude Sonnet 5.5는 이전 세대보다 30% 더 빠르고 저렴하며, 향상된 코딩 및 문서 작업 능력을 갖췄습니다.
Claude Sonnet 5.5는 이전 세대보다 30% 더 빠르고 저렴하며, 향상된 코딩 및 문서 작업 능력을 갖췄습니다.
