OpenAIは少なくとも50億ドルで説明可能性ラボGoodFireを買収する計画を立てていた。
市場の情報によると、OpenAIは少なくとも50億ドルでGoodFireを買収する計画を立てていた。GoodFireは、メカニズムの説明可能性に特化したAI研究ラボで、主な目標は大規模モデルの脳スキャンを行い、AIのブラックボックスを開き、モデルの内部意思決定プロセスを理解可能、デバッグ可能、制御可能にすることだ。この会社は、2024年にOpenAIとGoogle DeepMindの説明可能性チームの研究者によって設立され、チームメンバーの大半はこれら二つの最前線のラボやトップ大学から来ている。そのコア技術プラットフォームSilicoとEmberは、開発者がモデル内部に深く入り込み、ニューロンや経路の活動を観察し、トレーニングプロセス中に直接パラメータを調整してモデルの挙動を変えることを可能にする。例えば、大規模モデルの幻覚を半分に減少させることが実現されている。