flashprove

Anthropic は最近、検証可能な AI 出力に関する最新の研究を発表し、新しいシステム FlashProve を紹介しました。関連する能力が実際の生産環境にどのように適用されるかを説明する際に、文中では Ethereum エコシステムの L2 Mantle を参考用例として文書に記載し、AI の先端研究所の公開研究において、Mantle を参考にできるオンチェーンの生産実践の一つと見なしています。

AnthropicはFlashProveをオープンソース化し、暗号通貨分野で一般的に使用されるzkSNARK（ゼロ知識証明）技術をAIモデル推論に移行しました。この技術は本来、取引の詳細を公開することなくブロックチェーン取引の有効性を証明することができます。Anthropicはこれを使って別の問題を解決しようとしています：ユーザーが高額で購入したAIモデルのAPIが、サービスプロバイダーによって安価なモデルにこっそりと変更されていないかどうかを確認する方法です。FlashProveは、サービスプロバイダーがモデルの重みの暗号化フィンガープリントを生成し、その後推論結果に数学的証明を提供することを可能にします。ユーザーはモデルの重みを取得する必要もなく、モデルを再実行することなく、指定された出力が事前に約束された重みのセットから来ているかどうかを確認できます。Claudeもこのシステムの開発と最適化に参加しました。AnthropicはすでにMetaの4000億パラメータモデルLlama 4 Maverickで実験を完了しています。1024トークンのコンテキストを処理するごとに生成される証明は約19MBで、通常のCPUでの検証には約17秒かかります。ただし、現在のところ各証明は1つの出力トークンしか検証できず、全体の回答を検証することはできません。証明生成に必要なGPU計算時間は、通常の推論の約70～95倍に達しています。今後、これを利用してこっそりとモデルを変更したAPIサービスプロバイダーを見つけ出せるかどうかは、証明コストがいつ下がるかにかかっています。

Solana インフラ企業 Helius の CEO Mert が発表したところによると、Anthropic と Claude は Zcash を使用して、世界で初めて同様の暗号技術を応用しています。Anthropic の公式サイトによると、Anthropic は 11 月 2 日に研究プロトタイプ FlashProve をオープンソースで公開し、ゼロ知識証明（zkSNARK）を利用して「証明可能な推論」を実現しました。これは、モデル提供者が特定の応答が実際にそのモデルによって生成されたことを証明できる一方で、モデルの重みを漏らさないというものです。提供者はまずオフラインでモデルの重みのコミットメントを公開し、その後、各リクエストごとに証明を生成します。ユーザーは通常の CPU 上で数秒で検証できます。例えば、4000 億パラメータの Llama 4 Maverick の場合、単一の H100 は毎秒約 110 個のトークンの証明を生成でき、1024 トークンのリクエストに対する証明は約 19 MB です。このシステムは Claude が最適化に関与しており、安全性の特性は Lean 形式で記述されています。Anthropic は、現在の証明コストは通常の推論 GPU 時間の 70～95 倍であり、まだ研究プロトタイプであり、実用化には至っていないと述べています。