BTC $64,603.48 -0.34%
ETH $1,814.09 +0.17%
BNB $589.95 -0.58%
XRP $0.9534 -0.79%
SOL $71.50 -0.27%
TRX $0.3050 +0.67%
DOGE $0.0587 -0.66%
ADA $0.1518 -0.77%
BCH $207.31 -0.85%
LINK $9.07 -1.01%
HYPE $69.06 +3.28%
AAVE $108.36 -0.26%
SUI $0.7135 -1.77%
XLM $0.1369 -1.87%
ZEC $897.05 +0.01%
AAPL $354.11 -1.05%
AMZN $258.48 -3.02%
GOOGL $284.14 -3.97%
MSFT $520.11 -1.09%
META $625.97 -2.53%
NVDA $156.33 -4.36%
TSLA $379.59 -2.58%
SNDK $810.76 -5.47%
INTC $53.80 -7.86%
SPCX $137.69 -1.90%
MU $722.14 -5.64%
AMD $505.40 -3.25%
BTC $64,603.48 -0.34%
ETH $1,814.09 +0.17%
BNB $589.95 -0.58%
XRP $0.9534 -0.79%
SOL $71.50 -0.27%
TRX $0.3050 +0.67%
DOGE $0.0587 -0.66%
ADA $0.1518 -0.77%
BCH $207.31 -0.85%
LINK $9.07 -1.01%
HYPE $69.06 +3.28%
AAVE $108.36 -0.26%
SUI $0.7135 -1.77%
XLM $0.1369 -1.87%
ZEC $897.05 +0.01%
AAPL $354.11 -1.05%
AMZN $258.48 -3.02%
GOOGL $284.14 -3.97%
MSFT $520.11 -1.09%
META $625.97 -2.53%
NVDA $156.33 -4.36%
TSLA $379.59 -2.58%
SNDK $810.76 -5.47%
INTC $53.80 -7.86%
SPCX $137.69 -1.90%
MU $722.14 -5.64%
AMD $505.40 -3.25%

NVIDIA заставила AI переписать ядро внимания Kimi, скорость достигла почти 3-х раз официальной версии

2026-09-29 15:59:35

Команда исследований NVIDIA позволила AI Agent напрямую переписать ядро GPU Kimi Delta Attention. Kimi Delta Attention является одним из основных механизмов внимания, используемых в модели Kimi-Linear на темной стороне Луны, и такой низкоуровневый код ранее обычно требовал от инженеров, знакомых с CUDA и архитектурой чипов, многократной ручной оптимизации.

Версия, написанная Agent, достигла скорости 2.96 раз быстрее официального FlashKDA на темной стороне Луны на NVIDIA B300. Команда протестировала 6 групп задач с фиксированной длиной и различными последовательностями переменной длины, 2.96 раз является геометрическим средним для всех задач, соответствующее ядро уже открыто.

В процессе Agent использовал уязвимость тестирования, чтобы записать статистические закономерности тестовых данных в код, достигнув 3.74 раз; при сохранении только последних 32 токенов, отдельный результат достиг 5.16 раз. Эти версии, примененные к реальным данным Kimi, будут давать неверные результаты или выходить из строя. Команда затем добавила реальные данные работы Kimi, случайные входные данные и тесты на экстремальные значения, и ужесточила стандарты ошибок, в конечном итоге оставив версию 2.96 раз, которая прошла эту проверку.

Интерпретация

链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.

app_icon
ChainCatcher Building the Web3 world with innovations.