Metaのロールバックにより、Museが電話テストを行い、一部の通話は実際の人間によって行われました。

404 Media とロイターが入手した内部情報によると、Meta は Muse「あなたの代わりに電話をかける」テストを拡大した後、一部の電話が実際に人間によって行われていることが明らかになりました。Muse はタスクをコールセンターの人間の契約者に転送し、彼らがユーザーの代わりに電話をかけてリクエストを完了します。テスト参加者の中には、電話が終了するまで人間が介入していることに気づかなかった人もいます。

Meta がこの方法を採用した主な理由は、成功率を向上させるためです。社内テストでは、人間が介入した後の電話タスクの成功率が95%から98%に達し、純粋なAIよりも高いことが示されています。商業者は相手がAIであると聞くと、すぐに電話を切ることがあります。また、コミュニティの中には、商業者がMuseに自分がAIアシスタントであると伝えた後に電話を切ったと報告するテスト参加者もいます。

人間の介入はプライバシーの問題を引き起こします。ユーザーは情報がAIにのみ渡されると思っていたが、実際には外部の契約者に見られる可能性があります。Meta 内部でも、契約者にプライバシーのトレーニングを行うことは、本当の安全メカニズムとは言えないという疑問が出ています。Meta の責任者は、その後、テスト参加者に人間が介入することを事前に説明しなかったのは誤りであり、この機能はロールバックされたと認めました。Meta は電話機能はまだテスト中であり、将来的には安全性、プライバシー、明確な通知が整った後に正式にリリースされると述べています。