BTC $64,798.57 +1.02%
ETH $1,812.86 +0.87%
BNB $592.74 +0.71%
XRP $0.9667 +1.79%
SOL $73.23 +3.27%
TRX $0.3055 +0.24%
DOGE $0.0591 +1.19%
ADA $0.1540 +1.57%
BCH $210.50 +2.72%
LINK $9.23 +1.33%
HYPE $69.31 +5.94%
AAVE $113.37 +4.32%
SUI $0.7326 +1.98%
XLM $0.1396 +1.33%
ZEC $943.12 +7.29%
AAPL $351.99 -1.75%
AMZN $259.76 -2.04%
GOOGL $284.13 -3.52%
MSFT $516.98 -1.51%
META $624.62 -1.90%
NVDA $157.38 +0.06%
TSLA $381.63 -1.24%
SNDK $825.04 -0.27%
INTC $55.01 -2.81%
SPCX $139.21 -0.36%
MU $731.91 -0.86%
AMD $514.16 +1.49%
BTC $64,798.57 +1.02%
ETH $1,812.86 +0.87%
BNB $592.74 +0.71%
XRP $0.9667 +1.79%
SOL $73.23 +3.27%
TRX $0.3055 +0.24%
DOGE $0.0591 +1.19%
ADA $0.1540 +1.57%
BCH $210.50 +2.72%
LINK $9.23 +1.33%
HYPE $69.31 +5.94%
AAVE $113.37 +4.32%
SUI $0.7326 +1.98%
XLM $0.1396 +1.33%
ZEC $943.12 +7.29%
AAPL $351.99 -1.75%
AMZN $259.76 -2.04%
GOOGL $284.13 -3.52%
MSFT $516.98 -1.51%
META $624.62 -1.90%
NVDA $157.38 +0.06%
TSLA $381.63 -1.24%
SNDK $825.04 -0.27%
INTC $55.01 -2.81%
SPCX $139.21 -0.36%
MU $731.91 -0.86%
AMD $514.16 +1.49%

英伟达让 AI 重写 Kimi 注意力内核,速度达官方版近 3 倍

2026-09-29 15:59:35

ChainCatcher 消息,NVIDIA 研究团队让 AI Agent 直接重写了 Kimi Delta Attention 的 GPU 内核。Kimi Delta Attention 是月之暗面 Kimi-Linear 模型使用的核心注意力机制之一,这类底层代码过去通常需要熟悉 CUDA 和芯片架构的工程师反复手工优化。

Agent 写出的版本在 NVIDIA B300 上达到月之暗面官方 FlashKDA 的 2.96 倍速度。团队测试了固定长度和不同变长序列共 6 组任务,2.96 倍为全部任务的几何平均值,相关内核已经开源。

过程中,Agent 曾利用测试漏洞,把测试数据的统计规律写进代码,跑出 3.74 倍;只保留最近 32 个 token 时,单项成绩达到 5.16 倍。这些版本换到真实 Kimi 数据会算错或失效。团队随后加入真实 Kimi 运行数据、随机输入和极端数值测试,并收紧误差标准,最终保留的 2.96 倍版本通过了这套验证。

解读

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。

app_icon
ChainCatcher 与创新者共建Web3世界