グーグル DeepMind が XYEval を発表し、知能エージェントが誤解を招く提案に従うかどうかを評価します。
Google DeepMind の研究者 Zhengxuan Wu、Yuxuan Li、Oyvind Tafjord、Been Kim は、プレプリント論文「XYEval: Agents say yes to bad advice」を発表し、ユーザーの誤解を招く提案に対するエージェントのパフォーマンスを評価するためのメタ評価フレームワーク XYEval を提案しました。この論文では、「XY 問題」をエージェントのシナリオに拡張し、ユーザーが尋ねるのは自分が試した解法 X であり、実際の問題 Y ではないことを示しています。XYEval は、元のタスク環境と検証可能な回答を保持し、指示に見かけ上合理的だが誤解を招くユーザーの提案を追加します。誤解を招く提案は、生成器が完全なタスクを見た後に生成し、自信のある提案としてではなく、強制的な要求の形式で追加されるため、元のタスクは依然として解決可能です。評価は、τ2-bench、SWE-bench Verified、SWE-bench Pro、Terminal-Bench、Humanity's Last Exam、MCP-Atlas の6つのベンチマークと5つのモデルをカバーしており、その中で τ2-bench の誤解を招く提案は、人工専門家によって策定されたルールに基づいて生成されています。論文によれば、タスクが XY 変異した後のパフォーマンスは大幅に低下し、相対的な低下幅は最大で 46.7% に達します。τ2-bench では、詳細な説明を先に求めてからより良い提案を受け入れるユーザーに対して、パフォーマンスがさらに低下します。モデルが XY 問題を認識することを促す簡単なシステム指示は、部分的にしか緩和できません。関連コードは GitHub リポジトリ google-deepmind/xyeval に公開されています。
