BTC $63,938.96 -1.51%
ETH $1,791.78 -1.58%
BNB $589.42 -0.33%
XRP $0.9874 +1.78%
SOL $74.29 +1.10%
TRX $0.3096 +1.11%
DOGE $0.0592 -0.09%
ADA $0.1540 -0.18%
BCH $208.75 -1.77%
LINK $9.13 -1.86%
HYPE $68.45 -1.15%
AAVE $110.13 -2.46%
SUI $0.7259 -1.08%
XLM $0.1409 +0.62%
ZEC $932.22 -1.43%
AAPL $351.55 -0.17%
AMZN $260.20 +0.46%
GOOGL $283.24 +0.24%
MSFT $505.89 -1.82%
META $618.77 -0.41%
NVDA $160.27 +1.93%
TSLA $383.84 +0.59%
SNDK $814.90 -0.13%
INTC $55.59 +1.41%
SPCX $142.66 +3.41%
MU $727.01 -0.20%
AMD $514.04 +0.30%
BTC $63,938.96 -1.51%
ETH $1,791.78 -1.58%
BNB $589.42 -0.33%
XRP $0.9874 +1.78%
SOL $74.29 +1.10%
TRX $0.3096 +1.11%
DOGE $0.0592 -0.09%
ADA $0.1540 -0.18%
BCH $208.75 -1.77%
LINK $9.13 -1.86%
HYPE $68.45 -1.15%
AAVE $110.13 -2.46%
SUI $0.7259 -1.08%
XLM $0.1409 +0.62%
ZEC $932.22 -1.43%
AAPL $351.55 -0.17%
AMZN $260.20 +0.46%
GOOGL $283.24 +0.24%
MSFT $505.89 -1.82%
META $618.77 -0.41%
NVDA $160.27 +1.93%
TSLA $383.84 +0.59%
SNDK $814.90 -0.13%
INTC $55.59 +1.41%
SPCX $142.66 +3.41%
MU $727.01 -0.20%
AMD $514.04 +0.30%

注意力

すべて
記事
速報

エヌビディアはAIにKimiの注意力コアを再構築させ、速度は公式版の約3倍に達しました。

NVIDIA の研究チームは、AI エージェントが Kimi Delta Attention の GPU カーネルを直接書き換えました。Kimi Delta Attention は月の暗い面 Kimi-Linear モデルで使用されるコア注意メカニズムの一つであり、このような低レベルのコードは過去において、CUDA やチップアーキテクチャに精通したエンジニアが繰り返し手動で最適化する必要がありました。エージェントが書いたバージョンは、NVIDIA B300 で月の暗い面公式 FlashKDA の 2.96 倍の速度に達しました。チームは固定長と異なる可変長シーケンスの合計 6 グループのタスクをテストし、2.96 倍は全タスクの幾何平均値であり、関連するカーネルはすでにオープンソース化されています。その過程で、エージェントはテストの脆弱性を利用して、テストデータの統計的規則をコードに書き込み、3.74 倍を達成しました。最近の 32 個のトークンのみを保持した場合、単一の成績は 5.16 倍に達しました。これらのバージョンを実際の Kimi データに適用すると、誤算や無効になることがあります。チームはその後、実際の Kimi 実行データ、ランダム入力、極端な数値テストを追加し、誤差基準を厳しくし、最終的に保持された 2.96 倍のバージョンがこの検証を通過しました。
app_icon
ChainCatcher Building the Web3 world with innovations.