BTC $64,555.21 +0.42%
ETH $1,811.24 +0.11%
BNB $591.09 +0.15%
XRP $0.9984 +4.12%
SOL $75.04 +3.26%
TRX $0.3086 +1.04%
DOGE $0.0595 +1.41%
ADA $0.1545 +0.83%
BCH $208.83 -0.08%
LINK $9.19 +0.46%
HYPE $68.70 -0.66%
AAVE $111.68 -0.72%
SUI $0.7309 +0.98%
XLM $0.1409 +2.28%
ZEC $949.47 +0.55%
AAPL $350.92 -0.50%
AMZN $260.69 +1.51%
GOOGL $283.45 +0.33%
MSFT $508.08 -1.73%
META $621.84 +0.07%
NVDA $161.54 +3.63%
TSLA $385.42 +2.27%
SNDK $831.54 +4.61%
INTC $56.30 +4.84%
SPCX $142.88 +4.66%
MU $738.59 +3.27%
AMD $519.35 +3.23%
BTC $64,555.21 +0.42%
ETH $1,811.24 +0.11%
BNB $591.09 +0.15%
XRP $0.9984 +4.12%
SOL $75.04 +3.26%
TRX $0.3086 +1.04%
DOGE $0.0595 +1.41%
ADA $0.1545 +0.83%
BCH $208.83 -0.08%
LINK $9.19 +0.46%
HYPE $68.70 -0.66%
AAVE $111.68 -0.72%
SUI $0.7309 +0.98%
XLM $0.1409 +2.28%
ZEC $949.47 +0.55%
AAPL $350.92 -0.50%
AMZN $260.69 +1.51%
GOOGL $283.45 +0.33%
MSFT $508.08 -1.73%
META $621.84 +0.07%
NVDA $161.54 +3.63%
TSLA $385.42 +2.27%
SNDK $831.54 +4.61%
INTC $56.30 +4.84%
SPCX $142.88 +4.66%
MU $738.59 +3.27%
AMD $519.35 +3.23%

Vitalik 分享本地私有 LLM 方案,强调隐私与安全优先

2026-04-02 14:53:42

ChainCatcher 消息,Vitalik Buterin 发文分享其截至 2026 年 4 月的本地化、私有化 LLM 部署方案,核心目标是将隐私、安全与自主可控作为前提,尽量减少远程模型及外部服务接触个人数据的机会,并通过本地推理、文件本地存储及沙箱隔离等方式降低数据泄露、模型越狱及恶意内容利用风险。

在硬件方面,其测试了搭载 NVIDIA 5090 GPU 的笔记本、AMD Ryzen AI Max Pro 128 GB 统一内存设备及 DGX Spark 等方案,并使用 Qwen3.5 35B 与 122B 模型进行本地推理。

其中,5090 笔记本在 35B 模型下可达约 90 tokens/s,AMD 方案约 51 tokens/s,DGX Spark 约 60 tokens/s。Vitalik 表示,其更倾向于基于高性能笔记本构建本地 AI 环境,同时使用 llama-server、llama-swap 及 NixOS 等工具搭建整体工作流。

链捕手ChainCatcher提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击,我们会及时处理。

app_icon
ChainCatcher 与创新者共建Web3世界