BTC $64,115.54 -0.64%
ETH $1,789.77 -1.04%
BNB $587.21 -0.67%
XRP $0.9554 -0.01%
SOL $72.06 +0.58%
TRX $0.3054 +0.61%
DOGE $0.0583 -0.84%
ADA $0.1521 -0.61%
BCH $208.44 +0.96%
LINK $9.11 -0.74%
HYPE $68.34 +1.23%
AAVE $110.56 +0.62%
SUI $0.7201 -0.56%
XLM $0.1372 -1.06%
ZEC $920.92 +2.96%
AAPL $353.09 -1.56%
AMZN $257.19 -3.21%
GOOGL $282.17 -4.49%
MSFT $518.25 -1.78%
META $622.71 -2.33%
NVDA $155.78 -2.38%
TSLA $378.13 -2.72%
SNDK $801.24 -4.58%
INTC $54.02 -5.41%
SPCX $137.41 -1.70%
MU $716.00 -3.76%
AMD $505.43 -1.18%
BTC $64,115.54 -0.64%
ETH $1,789.77 -1.04%
BNB $587.21 -0.67%
XRP $0.9554 -0.01%
SOL $72.06 +0.58%
TRX $0.3054 +0.61%
DOGE $0.0583 -0.84%
ADA $0.1521 -0.61%
BCH $208.44 +0.96%
LINK $9.11 -0.74%
HYPE $68.34 +1.23%
AAVE $110.56 +0.62%
SUI $0.7201 -0.56%
XLM $0.1372 -1.06%
ZEC $920.92 +2.96%
AAPL $353.09 -1.56%
AMZN $257.19 -3.21%
GOOGL $282.17 -4.49%
MSFT $518.25 -1.78%
META $622.71 -2.33%
NVDA $155.78 -2.38%
TSLA $378.13 -2.72%
SNDK $801.24 -4.58%
INTC $54.02 -5.41%
SPCX $137.41 -1.70%
MU $716.00 -3.76%
AMD $505.43 -1.18%

Tether 开源 TurboQuant,本地 AI 设备 KV 缓存压缩比最高可达 5 倍

2026-06-01 21:06:27

ChainCatcher 消息,Tether AI 研究团队宣布开源 TurboQuant 生产版本,并将其集成至 QVAC SDK 0.12.0。

TurboQuant 源自 Google Research 的内存压缩算法,可将 AI 运行时的 KV 缓存压缩最高 5 倍,同时保持接近未压缩模型的输出质量。

这意味着笔记本电脑、手机及边缘设备在无需将数据上传至云端的情况下,可处理更长的对话、更大的文件及更复杂的任务。

此次开源发布包含完整量化流水线、主流推理框架适配器及开发者文档,面向在消费级硬件、边缘设备及点对点网络上部署 AI 的开发者和初创团队。

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。

app_icon
ChainCatcher 与创新者共建Web3世界