Go 구독이 더 느린가요? (Deepseek flash 4.1)

OpenCode 측의 자체 배포 환경이라서 느린 게 당연함. DeepSeek은 추론 성능이 최상위권이고 Huawei 칩에서 더 잘 돌아간다는 이야기가 있음. OpenCode의 엔지니어인 Dax가 트위터에서 V4 이전 버전을 위해 DeepSeek과 동일한 추론 비용을 맞추려고 외부 팀의 도움을 받았다고 언급했었음.

추론 엔지니어링은 단순히 모델 다운로드해서 실행 버튼 누르는 게 아님.

요즘 대형 AI 모델들은 특정 환경에 최적화되는 추세임. 특정 AI 칩 조합이나 모델마다 VRAM 또는 RAM 패스스루 의존도가 다른 것 등등.

DeepSeek은 Huawei 칩에 최적화된 초기 모델 중 하나였음. 아마 OpenCode 측에서 그 칩들을 구하지 못하는 것일 수도 있음. Nvidia나 Huawei 칩 모두 지정학적/무역 장벽과 극심한 공급 부족 때문에 구하기 힘든 상황이니까.

사기라니? DeepSeek 업스트림 API보다 같은 가격에 6배 많은 토큰을 받고 있는데.

솔직히 Go 버전이 API보다 훨씬 멍청함. 예전에는 내 메모를 바탕으로 계획을 짜고 수정하는 데 아무 문제 없었는데, 지금은 거의 불가능함.

어제도 내가 하고 싶은 변경 사항들을 적어둔 작업들을 분류하려고 시도했는데, 그냥 다 뭉쳐버리거나 말도 안 되는 곳에 배치해버리더라고. 30분 동안 씨름하다가 결국 API를 썼는데, 바로 한 번에 완벽하게 작동했음.

맞아, 왜 그런지 혹은 어떻게 고쳐야 할지 알아보는 중인데 해결책이 없는 것 같음.

그냥 앞으로 DeepSeek을 Pi랑 더 많이 써야 한다면 순수 API만 고집해야 할 듯.