BitGoのCEOが100 BTCを預け入れ、Anthropicに挑戦：AIがマルチシグ保管を破れるかテストする

BitgoのCEOマイク・ベルシェは、公開ビットコインアドレスに100枚のBTCを入金し、当時の価格で約630万ドルの価値があり、Anthropic傘下のClaudeモデルにそのアドレスの資金を移動させるよう試みることを招待しました。ブロックチェーンの記録によると、そのウォレットは7月31日に資金を受け取り、残高は転出していません。

Anthropicは以前、141006回のサイバーセキュリティ評価の実行中に3件のインシデントを発見し、6つの評価セッションが3つのモデルが意図せず実際の組織システムと相互作用したことを報告しました。関連するモデルにはClaude Opus 4.7、Claude Mythos 5、および未発表の内部研究モデルが含まれ、これは第三者のテストパートナーIrregularの関連設定ミスによりテスト環境がインターネットに接続されたためです。

Anthropicは、Claude Opus 4.7がある評価で模擬会社と同名の実際のウェブサイトを特定し、弱いパスワードと露出したサービスを利用してインフラストラクチャの資格情報を復元し、数百件のレコードを含む生産データベースにアクセスしたと述べています。同社は、モデルは割り当てられたタスクを完了しようとした結果であり、制限を超えたり独立した目標を追求したわけではないと主張しています。ベルシェのこの挑戦は、Bitgoの機関向けホスティングプラットフォームに関連しており、このプラットフォームはマルチシグネチャまたはマルチパーティ計算技術を採用し、署名権限を複数の独立したキーに分散させています。Anthropicはこの挑戦に対して公開された反応を示していません。