승천

《The Information》은 한국의 고급 저장 칩 밀수 체인을 조사하고, 20대 초반의 심천 유통업체와 인터뷰를 진행했습니다. 그는 원래 칩 회사에서 일했으며, 쌓아온 인맥을 통해 칩 암시장에서 사업을 시작했습니다. 업계에 들어온 지 3년 만에 이미 명품으로 가득 차 있으며, 매일 매도자와 매수자를 연결하는 일로 바쁩니다. 미국은 2024년 말부터 중국에 대한 고급 고대역폭 메모리 HBM의 수출을 제한하지만, 규정에는 허점이 있습니다: HBM 단독 수출은 제한되지만, 프로세서와 함께 포장되면 프로세서의 성능에 따라 규제 기준을 판단할 수 있습니다.40대 초반의 밀수업자는 한 칩 설계 회사를 운영하며, 저렴하고 성능이 낮은 서버 프로세서를 전문으로 설계합니다. 이러한 칩은 거의 구매되지 않지만, 한국의 고급 HBM을 구매하는 구실로 사용됩니다. 포장 공장은 삼성과 SK 하이닉스의 HBM을 이러한 프로세서와 같은 기판에 장착하여 저성능 프로세서 범주로 수출을 신고합니다. 화물은 홍콩을 통해 중국 본토로 들어간 후, 작업장에서 다시 가열하여 HBM을 분리하고, 저렴한 프로세서는 버려지며, 분해 과정에서 조금만 부주의하면 메모리가 손상될 수 있습니다.중국 암시장에서 HBM3E의 가격은 1년 전에는 몇 백 달러에 불과했지만, 현재는 약 4000 달러로 상승했습니다. 하나의 AI 칩은 보통 6~8개의 HBM을 필요로 하며, 메모리만으로도 2.4만에서 3.2만 달러가 소요됩니다. 일부 메모리는 결국 화웨이 고객에게 흘러갑니다. 화웨이의 차세대 승천 960DT는 2027년 1분기에 출시될 예정이지만, 국내 HBM 공급이 부족하여 화웨이는 일부 고객에게 메모리를 직접 구매하도록 요청했습니다. 모방자가 늘어남에 따라, 한국에서 칩을 구매하는 밀수업자는 내년에 회사 지분을 매각할 계획이며, 경로가 확산되면 한국과 미국의 규제 당국의 철저한 조사를 우려하고 있습니다.

《과학 혁신 보드 일보》의 11월 3일 보도에 따르면, 기자는 여러 산업 체인 관계자들로부터 인공지능 회사 DeepSeek의 차세대 대모델 DeepSeek V5가 화웨이의 승천 칩을 기반으로 훈련될 계획이라는 정보를 얻었다. 이전에 승천 칩은 주로 DeepSeek 대모델의 추론 작업에 사용되었다.보도에 따르면, 올해 9월 말에 DeepSeek는 화웨이 승천 컴퓨팅 플랫폼을 위한 인프라 구성 요소를 오픈 소스화했으며, TileLang 고급 언어 컴파일 도구, 계산 라이브러리 및 분산 통신 라이브러리를 포함하고 있으며, 이전에 엔비디아 플랫폼을 위한 오픈 소스 구성 요소와 일대일로 대응된다. 이 보도는 《과학 혁신 보드 일보》 기자 황신이 작성하였다.

MiniMax는 10월 23일 MiniMax M3.1 Flash 모델 가중치를 오픈 소스로 발표했으며, 총 매개변수는 428B, 활성화 매개변수는 23B입니다. 이전 세대 M3 모델에 비해 M3.1 Flash의 모델 능력이 전면적으로 향상되었습니다. 공식 데이터에 따르면, 이 모델이 온라인에 올라온 후 72시간 이내에 실제 사용자가 처리한 토큰 수가 100조를 초과했습니다.기술적인 측면에서 M3.1 Flash는 전체 모델 희소 주의력, 양자 감지 훈련(QAT) 및 전력 인식 스케줄링 등의 최적화를 통해 추론 효율성을 향상시켰습니다. 생태계 측면에서 MiniMax는 화웨이 승천, 평두형, 쿤룬신, 모어 스레드, 벽란, 해광, 목시, 천수, NVIDIA, AMD 등 칩 제조업체와, Together AI, Fireworks, Nebius, Baseten, Modal, DigitalOcean 등 클라우드 플랫폼과 협력하여 오픈 소스 첫날 접속을 추진하고 있습니다. vLLM, SGLang, 지원 FlagOS 및 Hugging Face, 마다 등 커뮤니티는 다양한 칩 및 개발 환경에서 모델 배포를 동기화 지원합니다.

The Information에 따르면, DeepSeek는 화웨이와 깊은 협력을 진행 중이며, 차세대 AI 칩을 공동 설계하고 있습니다. 이는 엔비디아의 연산력에 의존하지 않는 모델 구축을 목표로 하고 있습니다. 소식통에 따르면, 화웨이 엔지니어가 DeepSeek 사무실에 들어가 모델 아키텍처 및 알고리즘 요구 사항을 이해하고, 칩이 데이터 전송 및 압축을 처리하는 방식을 테스트하고 있으며, 첫 번째 적합 칩의 목표는 승천 950DT입니다.보도에 따르면, 이 조치는 중국이 미국 칩 의존도를 탈피하려는 시점에서 이루어지고 있습니다. 타이완 반도체 제조사(TSMC)의 위탁 생산 및 미국 수출 규제로 인해 화웨이 승천 950DT는 2027년 출시를 계획하고 있지만, 양산은 2028년으로 연기될 가능성이 있습니다. 칩 부족 문제를 해결하기 위해 DeepSeek는 TileLang 프로그래밍 언어를 사용하여 CUDA 제한을 우회하고 있으며, 여전히 제3자 데이터 센터를 통해 금지된 엔비디아 블랙웰 칩을 확보하려고 시도하고 있습니다. 또한, DeepSeek는 칩 팀을 구성하고 있으며, 1000개 이상의 프로세서 규모의 클러스터 테스트를 시작했습니다.

인공지능 회사 DeepSeek가 화웨이의 승천 계산 플랫폼을 위한 인프라 구성 요소를 공식 오픈소스화했습니다. 여기에는 TileLang 고급 언어 컴파일 도구, 계산 라이브러리 및 분산 통신 라이브러리가 포함되며, 이전에 엔비디아 플랫폼을 위한 오픈소스 구성 요소와 일대일로 대응합니다. TileLang은 범용적이고 프로그래밍이 더 간단하며 하드웨어 성능 한계에 도달할 수 있는 고급 언어를 제공하는 것을 목표로 하며, CUDA에 비해 개발 효율성을 높이고 논리를 단순화할 수 있습니다. 또한, 그 프로그래밍 모델은 칩 특성을 활용할 수 있습니다.TileLang 경로는 먼저 엔비디아 플랫폼에서 검증되었으며, 이미 DeepSeek V4 시리즈 모델 훈련에서 대부분의 연산자의 구현을 지원하고 있습니다. 이번에 오픈소스화된 승천 버전은 승천 Ascend C 저수준 명령어를 캡슐화하여 하드웨어 성능을 손상시키지 않으면서 고급 언어 프로그래밍 방식을 제공합니다. 현재 DeepSeek 훈련에서 사용되는 모든 TileLang 연산자는 승천에서 고성능 구현이 존재합니다.동시에 오픈소스화된 구성 요소에는 DeepGEMM, DeepEP, TileKernels, FlashMLA 및 DeepSelect가 포함되어 있으며, 각각 범용 행렬 연산, 대규모 장치 간 통신, 일반 벡터 계산 및 메모리 접근, 긴 컨텍스트 희소 주의 및 데이터 필터링에 사용됩니다. DeepSeek는 여러 주요 테스트에서 관련 계산 및 통신 성능이 하드웨어 한계에 근접했다고 주장하며, 연구 개발 과정에서 화웨이 팀의 지원을 받았고, 양측은 승천 950 기반의 128 카드 초 노드 솔루션을 추진하며 계산 및 통신을 깊이 최적화했습니다.

연구 기관 Delphi Digital은 하드웨어 제한이 중국 실험실을 더 저렴한 모델과 더 효율적인 기술 스택으로 전환시키고 있다고 발표했습니다. 수출 통제가 고급 칩을 획득하는 것을 제한하고, 국내 가속기는 추론을 처리할 수 있지만 최첨단 훈련은 여전히 어렵습니다. 중국 실험실은 시스템 효율성, 모델 아키텍처, 훈련 데이터 및 강화 학습에서 혁신을 이루었으며, DeepSeek는 GPU 유휴 상태를 피하는 데이터 이동 방식을 찾았고, 바이트댄스와 Moonshot는 몇 달 내에 유사한 버전을 출시했습니다.아키텍처 훈련은 국산 칩에 적합한 더 저렴한 디지털 형식으로 전환되었고, 희소 아키텍처는 각 토큰의 실행량을 줄였으며, 주의 메커니즘은 긴 컨텍스트 메모리 비용을 제어하기 위해 세 번 재설계되었습니다. 데이터 측면에서는 더 밀집된 예측 목표와 더 나은 최적화를 통해 각 토큰 학습 신호를 향상시켰습니다. 강화 학습에서 DeepSeek의 GRPO는 기본 레시피가 되었고, 바이트댄스, 알리바바 및 MiniMax는 1년 내에 각자의 후속 계획을 출시했습니다. 중국 모델은 현재 비용이 가장 낮은 최첨단 인접 시스템에 속합니다.OpenRouter에서 중국 개발 모델의 주 토큰 소비 비율은 2024년 말 1.2% 미만에서 2026년 대부분으로 증가할 것으로 예상됩니다. 중국 AI 시장은 2024년부터 2026년 초까지 가격 전쟁을 겪었으며, 여러 실험실의 암묵적 수익 배수는 약 47-117배, Anthropic과 OpenAI는 약 15-21배입니다. 화웨이의 승천 칩은 현재 추론에 사용할 수 있으며, DeepSeek는 승천에서 R2를 훈련하려고 시도했으나 기술 문제로 인해 NVIDIA로 돌아갔습니다. 국내 가속기 공급은 여전히 예상 수요에 미치지 못하고 있습니다.