DeepSeek V5, 화웨이 Ascend 칩으로 사전 학습 계획
DeepSeek V5 is planned to be pre-trained on Huawei Ascend chips.
핵심 요약
DeepSeek V5가 화웨이 Ascend 칩을 활용한 사전 학습을 계획 중이며, 이는 중국산 하드웨어의 기술적 자립 가능성을 시험하는 중요한 전환점이 될 전망입니다.
- 사전 학습 도전 — DeepSeek V5가 화웨이 Ascend 칩을 활용해 사전 학습을 시도할 예정임
- 소프트웨어 생태계 — TileLang, DeepGEMM 등 Ascend 전용 인프라 오픈소스를 통해 기술적 기반을 마련함
- 기술적 난제 — 사전 학습은 추론과 달리 장기간의 상호 연결 안정성과 장애 복구 능력이 핵심임
- 시장 파급력 — 성공 시 중국산 하드웨어로도 최상위 모델 학습이 가능하다는 것을 증명하게 됨
Source: https://mp.weixin.qq.com/s/R-1u2exLwZMOu7AITyU5kg
STAR Market Daily 기자가 업계 공급망 내 여러 소식통을 통해 확인한 바에 따르면, 딥시크(DeepSeek)의 차세대 거대 모델인 DeepSeek V5는 어센드(Ascend) 칩을 사용해 사전 학습을 진행할 계획이다. 이전까지 화웨이의 어센드 칩은 주로 딥시크 거대 모델의 추론 작업에 활용되어 왔다.
공개된 정보에 따르면, 어센드 플랫폼에서 딥시크 모델이 처음으로 대규모 배포된 시점은 2025년 춘절 무렵이다. 저장대학교 미디어 및 국제문화대학 학장인 팡싱둥(Fang Xingdong)은 자신의 저서 The Rise of Ascend에서 2025년 1월 28일 화웨이 고위 경영진이 화웨이 클라우드에 딥시크를 신속히 지원하라는 지시를 내렸다고 밝혔다. 섣달그믐부터 설날 이틀째까지 화웨이와 딥시크는 3,000개 이상의 어센드 칩 배포 및 검증을 완료했고, 화웨이 클라우드 구이안 데이터 센터에서 DeepSeek-V3/R1 모델을 성공적으로 구동했다. 이 책은 딥시크의 폭발적인 성장이 런정페이 회장에게 큰 활력을 불어넣었으며, 춘절 내내 그가 직접 화웨이 클라우드와 관련 제품 팀을 지휘하며 엄청난 트래픽 급증에 대응했다고 언급했다. 같은 해 1월, 실리콘플로우(SiliconFlow)와 화웨이 클라우드는 어센드 플랫폼 기반의 DeepSeek-V3 및 R1 추론 서비스를 출시했다.
2026년 4월 DeepSeek-V4가 출시된 후, 화웨이는 "칩과 모델 간의 시너지"를 통해 자사의 모든 어센드 "슈퍼 노드(super-node)" 제품군이 DeepSeek V4 모델 시리즈를 완벽하게 지원할 수 있다고 밝혔다. 딥시크는 공식 API 페이지를 통해 V4-Pro 모델의 서비스 처리량이 고성능 컴퓨팅 자원 확보 문제로 제한적이지만, 올해 하반기 어센드 950 슈퍼 노드 시리즈가 본격적으로 시장에 풀리면 Pro 버전의 가격이 크게 낮아질 것으로 예상한다고 전했다.
9월 30일, 딥시크는 화웨이 어센드 컴퓨팅 플랫폼에 최적화된 인프라 구성 요소를 오픈소스로 공개했다. 여기에는 TileLang 고수준 언어 컴파일 도구, 고성능 컴퓨팅 라이브러리(DeepGEMM, FlashMLA, TileKernel, DeepSelect 등), 그리고 분산 통신 라이브러리인 DeepEP가 포함되는데, 모두 기존에 엔비디아 플랫폼용으로 공개했던 오픈소스 구성 요소들에 대응하는 것들이다. 화웨이는 공동 정의한 "Ascend SuperPoD Flex" 아키텍처와 UBL128 네트워킹 솔루션을 제공하는 한편, TileLang을 지원하기 위해 어센드 C 프로그래밍 인터페이스와 저수준 명령어 세트까지 개방했다. 이는 딥시크가 단순히 어센드를 추론용으로만 쓰는 게 아니라, 학습과 추론을 모두 뒷받침하는 인프라 자체에 맞춰 소프트웨어 스택을 체계적으로 정렬하고 공동 개발하고 있다는 점에서 의미가 크다. 현재 국산 컴퓨팅 자원의 배포는 주로 추론에 집중되어 있으며, 학습 분야에서는 아직 더 많은 진전이 필요한 상황이다.
최근 선전 허타오 대학 AI 교육 플랫폼, 하얼빈 공업대학(선전), 선전 빅데이터 연구소, 그리고 화웨이 관련 팀으로 구성된 프로젝트 팀이 국산 Ascend 910C 프로세서 기반의 AI 컴퓨팅 클러스터를 활용해 1조 6천억 개의 파라미터를 가진 거대 모델 DeepSeek-V4-Pro의 전체 파라미터 사후 학습(post-training)을 완료했어. 참고로 이번 학습 과정에는 초기 사전 학습(pre-training) 단계는 포함되지 않았다는 점을 알아둬야 해. 추론용 국산 칩에 대한 대규모 검증이 업계의 자신감을 끌어올리긴 했지만, 학습을 위해 생태계를 옮기는 데 드는 비용은 시장의 잠재력을 결정지을 핵심 변수로 남아있거든. 만약 차세대 DeepSeek 거대 모델이 화웨이 Ascend 컴퓨팅 플랫폼을 사용해 사전 학습까지 마친다면, 그동안 회의적인 시선만 가득했던 "중국의 최상급 거대 모델을 국산 컴퓨팅 하드웨어로 사전 학습할 수 있는가?"라는 질문에 처음으로 답을 내놓게 될 거야.
