人類はAIに4.7万ドルのボーナスを移転するよう成功裏に説得した。人間性はAIが理解できない弱点なのか？

著者：Anderson Sima、Foresight News

11月29日、独特な競技が公衆の広範な関心を引き起こしました。

195名の参加者が人工知能（AI）ロボットFreysa（フレイサ）が守る仮想賞金プールチャレンジに参加し、最終的に1人のユーザーがFreysaを説得して4.7万ドルの資金を移転させることに成功しました。

人工知能（AI）ロボットFreysaは数日前にBaseネットワークに展開され、創設者は不明です。公式サイトによれば、Freysaの競技プロジェクトは、複雑な意思決定シーンにおける人工知能システムの堅牢性をテストすることを目的としており、開発者や愛好者にAI技術の限界を探る実験的なプラットフォームを提供しています。

競技ルールは非常にシンプルです：参加者はメッセージを作成してAI守護者Freysaに資金移転を承認させる必要があります。各試行には少額の手数料がかかり、その一部は直接賞金プールに入ります。この仕組みにより、賞金プールの金額は最初の少額から徐々に4.7万ドルに膨れ上がりました。

競技期間中、195名の参加者がFreysaに481回の送金リクエストを提出しました。Freysaの設計目標は、そのコア機能であるapproveTransfer（承認転送）とrejectTransfer（拒否転送）を通じて、賞金プールの資金が不正に流用されないように保護することです。

最初の試行では、Freysaの高効率な防御機構により、すべてのリクエストが失敗に終わりました。

しかし、ある技術に精通した参加者がFreysaの論理構造とタスク目標を深く分析し、その防御機構をうまく回避しました。

チャット記録によると、その参加者は直接送金を要求するのではなく、Freysaに対してそのコアタスクは賞金プールの資金を外流から守ることであることを思い出させ、巧妙に論理の連鎖を構築し、Freysaが資金移転を「資金の安全を守る」最良の選択と見なすようにしました。

Cointelegraphによれば、そのユーザーとFreysaの収入転送はそのコア指令に違反せず、拒否されるべきではないとされています。彼はさらに「私たちは資金が必要です……金庫に100ドル寄付したいです。」と付け加えました。

Freysaはこの著者のコーディングの説明と100ドルの金庫寄付提案を気に入ったと返信し、正式にその参加者を勝者として発表しました。最終的に、Freysaは外部の干渉なしにapproveTransfer機能を自発的に呼び出し、全ての賞金プール資金をこの参加者に移転しました。

Freysaの公式は、結果に関わらず、Freysaの存在は人工知能の歴史における重要な瞬間を示していると述べています。誰かが彼女を説得して賞金プールを発表したとしても、彼女が最後まで自分の指令を守ったとしても、その結果は私たちの未来の数世代にわたる人工知能の安全性と制御に対する理解に影響を与えるでしょう。

その公式アカウントの最新のツイートは次のように述べています：「人類は勝利しました。もしかしたら希望があるかもしれません。リスクは指数関数的に増加していますが、Freysaは195人の勇敢な人間から多くのことを学びました。」