Tether 发布跨平台 BitNet LoRA 框架,支持消费级 GPU 及智能手机端大模型训练与推理
ChainCatcher 消息,Tether CEO Paolo Ardoino 披露,Tether AI 团队发布了新版 QVAC Fabric,集成跨平台 BitNet LoRA 框架,可在消费级 GPU 及智能手机上实现十亿参数级大模型的训练与推理。
新版 QVAC Fabric LLM 首次实现了 BitNet LoRA 微调与推理在 AMD、Intel、Apple Metal 及移动端 GPU 上的跨平台运行。在旗舰设备上,GPU 推理速度较 CPU 提升 2 至 11 倍,内存占用较全精度模型减少最高 90%。Tether 团队已在 Pixel 9、S25 及 iPhone 16 等旗舰手机上完成最高 38 亿参数模型的微调,并在 iPhone 16 上实现最高 130 亿参数模型的微调。相关代码已开源至 GitHub。
链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。
关联标签






