ヴィタリックがローカルプライベートLLMソリューションを共有し、プライバシーとセキュリティの優先性を強調しました。

Vitalik Buterin は、2026年4月までのローカライズされたプライベート LLM デプロイメントプランを共有しました。核心的な目標は、プライバシー、安全性、自主制御を前提とし、リモートモデルや外部サービスが個人データに接触する機会をできるだけ減らすことです。また、ローカル推論、ファイルのローカルストレージ、サンドボックス隔離などの方法を通じて、データ漏洩、モデルの脱獄、悪意のあるコンテンツの利用リスクを低減します。

ハードウェアの面では、NVIDIA 5090 GPU を搭載したノートパソコン、AMD Ryzen AI Max Pro 128 GB 統一メモリデバイス、DGX Spark などのプランをテストし、Qwen3.5 35B および 122B モデルを使用してローカル推論を行いました。

その中で、5090 ノートパソコンは 35B モデルで約 90 tokens/s、AMD プランは約 51 tokens/s、DGX Spark は約 60 tokens/s に達しました。Vitalik は、高性能ノートパソコンを基にローカル AI 環境を構築することを好み、同時に llama-server、llama-swap、NixOS などのツールを使用して全体のワークフローを構築しています。