BTC $63,987.66 -1.42%
ETH $1,798.62 -0.84%
BNB $589.22 -0.32%
XRP $0.9691 +1.60%
SOL $73.13 +2.66%
TRX $0.3074 +0.64%
DOGE $0.0594 +0.24%
ADA $0.1535 +0.22%
BCH $208.90 +0.63%
LINK $9.17 +0.62%
HYPE $68.27 +0.03%
AAVE $110.63 +3.16%
SUI $0.7247 +0.50%
XLM $0.1391 +1.41%
ZEC $926.80 +3.95%
AAPL $351.22 -0.20%
AMZN $258.08 +0.04%
GOOGL $280.33 -1.52%
MSFT $506.30 -2.36%
META $621.04 -0.87%
NVDA $153.99 -1.04%
TSLA $380.33 +0.77%
SNDK $798.52 -1.83%
INTC $54.37 -1.98%
SPCX $141.71 +1.42%
MU $703.53 -2.43%
AMD $492.76 -2.27%
BTC $63,987.66 -1.42%
ETH $1,798.62 -0.84%
BNB $589.22 -0.32%
XRP $0.9691 +1.60%
SOL $73.13 +2.66%
TRX $0.3074 +0.64%
DOGE $0.0594 +0.24%
ADA $0.1535 +0.22%
BCH $208.90 +0.63%
LINK $9.17 +0.62%
HYPE $68.27 +0.03%
AAVE $110.63 +3.16%
SUI $0.7247 +0.50%
XLM $0.1391 +1.41%
ZEC $926.80 +3.95%
AAPL $351.22 -0.20%
AMZN $258.08 +0.04%
GOOGL $280.33 -1.52%
MSFT $506.30 -2.36%
META $621.04 -0.87%
NVDA $153.99 -1.04%
TSLA $380.33 +0.77%
SNDK $798.52 -1.83%
INTC $54.37 -1.98%
SPCX $141.71 +1.42%
MU $703.53 -2.43%
AMD $492.76 -2.27%

tilelang

Все
Статьи
Новости

first_img DeepSeek открытые компоненты Ascend, охватывающие библиотеки компиляции, вычислений и связи

Компания искусственного интеллекта DeepSeek официально открывает исходный код инфраструктурных компонентов для платформы вычислений Huawei Ascend, включая инструменты компиляции высокоуровневого языка TileLang, библиотеки вычислений и библиотеки распределенной связи, которые соответствуют ранее выпущенным компонентам с открытым исходным кодом для платформы NVIDIA. TileLang предназначен для предоставления универсального, более простого в программировании высокоуровневого языка, который может достигать предельной производительности аппаратного обеспечения, что по сравнению с CUDA повышает эффективность разработки и упрощает логику, а его модель программирования также может использовать особенности чипа.Маршрут TileLang сначала был проверен на платформе NVIDIA и уже реализовал большинство операторов в обучении моделей серии DeepSeek V4. Открытая версия для Ascend оборачивает низкоуровневые инструкции Ascend C, предоставляя способ программирования на высокоуровневом языке без потери производительности аппаратного обеспечения. В настоящее время каждый оператор TileLang, используемый в обучении DeepSeek, имеет соответствующую высокопроизводительную реализацию на Ascend.Также открыты компоненты, такие как DeepGEMM, DeepEP, TileKernels, FlashMLA и DeepSelect, которые используются для общих матричных вычислений, масштабной межустройственной связи, обычных векторных вычислений и доступа к памяти, разреженного внимания с длинным контекстом и фильтрации данных. DeepSeek утверждает, что в нескольких ключевых тестах связанные вычисления и производительность связи уже близки к аппаратному пределу; в процессе разработки команда Huawei оказала поддержку, и обе стороны совместно продвигают решение с 128 картами на базе Ascend 950, а также провели глубокую оптимизацию вычислений и связи.
app_icon
ChainCatcher Building the Web3 world with innovations.