BTC $63,934.97 -1.80%
ETH $1,797.38 -1.29%
BNB $588.94 -0.43%
XRP $0.9664 +0.95%
SOL $73.04 +2.24%
TRX $0.3071 +0.54%
DOGE $0.0591 -0.53%
ADA $0.1529 -0.39%
BCH $208.33 +0.19%
LINK $9.13 -0.15%
HYPE $68.06 -0.75%
AAVE $110.58 +2.77%
SUI $0.7226 +0.05%
XLM $0.1386 +0.76%
ZEC $923.15 +2.95%
AAPL $351.21 -0.26%
AMZN $257.80 -0.06%
GOOGL $280.60 -1.42%
MSFT $506.79 -2.15%
META $623.41 -0.43%
NVDA $153.79 -1.26%
TSLA $380.43 +0.78%
SNDK $795.12 -2.15%
INTC $53.94 -2.78%
SPCX $141.66 +1.96%
MU $702.05 -2.47%
AMD $492.78 -2.35%
BTC $63,934.97 -1.80%
ETH $1,797.38 -1.29%
BNB $588.94 -0.43%
XRP $0.9664 +0.95%
SOL $73.04 +2.24%
TRX $0.3071 +0.54%
DOGE $0.0591 -0.53%
ADA $0.1529 -0.39%
BCH $208.33 +0.19%
LINK $9.13 -0.15%
HYPE $68.06 -0.75%
AAVE $110.58 +2.77%
SUI $0.7226 +0.05%
XLM $0.1386 +0.76%
ZEC $923.15 +2.95%
AAPL $351.21 -0.26%
AMZN $257.80 -0.06%
GOOGL $280.60 -1.42%
MSFT $506.79 -2.15%
META $623.41 -0.43%
NVDA $153.79 -1.26%
TSLA $380.43 +0.78%
SNDK $795.12 -2.15%
INTC $53.94 -2.78%
SPCX $141.66 +1.96%
MU $702.05 -2.47%
AMD $492.78 -2.35%

tilelang

Все
Статьи
Новости

first_img DeepSeek открытые компоненты Ascend, охватывающие библиотеки компиляции, вычислений и связи

Компания искусственного интеллекта DeepSeek официально открывает исходный код инфраструктурных компонентов для платформы вычислений Huawei Ascend, включая инструменты компиляции высокоуровневого языка TileLang, библиотеки вычислений и библиотеки распределенной связи, которые соответствуют ранее выпущенным компонентам с открытым исходным кодом для платформы NVIDIA. TileLang предназначен для предоставления универсального, более простого в программировании высокоуровневого языка, который может достигать предельной производительности аппаратного обеспечения, что по сравнению с CUDA повышает эффективность разработки и упрощает логику, а его модель программирования также может использовать особенности чипа.Маршрут TileLang сначала был проверен на платформе NVIDIA и уже реализовал большинство операторов в обучении моделей серии DeepSeek V4. Открытая версия для Ascend оборачивает низкоуровневые инструкции Ascend C, предоставляя способ программирования на высокоуровневом языке без потери производительности аппаратного обеспечения. В настоящее время каждый оператор TileLang, используемый в обучении DeepSeek, имеет соответствующую высокопроизводительную реализацию на Ascend.Также открыты компоненты, такие как DeepGEMM, DeepEP, TileKernels, FlashMLA и DeepSelect, которые используются для общих матричных вычислений, масштабной межустройственной связи, обычных векторных вычислений и доступа к памяти, разреженного внимания с длинным контекстом и фильтрации данных. DeepSeek утверждает, что в нескольких ключевых тестах связанные вычисления и производительность связи уже близки к аппаратному пределу; в процессе разработки команда Huawei оказала поддержку, и обе стороны совместно продвигают решение с 128 картами на базе Ascend 950, а также провели глубокую оптимизацию вычислений и связи.
app_icon
ChainCatcher Building the Web3 world with innovations.