Meta откатил тестирование звонков Muse, часть звонков выполнена реальными людьми

Согласно внутренним сообщениям, полученным 404 Media и Reuters, Meta расширила тестирование Muse «Позвонить за тебя», после чего стало известно, что часть звонков фактически выполняется реальными людьми. Muse может передавать задачи реальным подрядчикам в колл-центре, которые звонят пользователям и выполняют запросы, и некоторые тестировщики узнали о вмешательстве человека только после завершения звонка.

Meta приняла этот подход в основном для повышения коэффициента успешности. Внутренние тесты компании показали, что после вмешательства человека коэффициент успешности телефонных задач может достигать 95% до 98%, что выше, чем у чистого ИИ. Некоторые продавцы, услышав, что на другой стороне находится ИИ, сразу же вешают трубку, а среди тестировщиков также есть такие, кто утверждает, что продавцы вешают трубку, когда Muse заявляет, что она является ИИ-помощником.

Вмешательство человека вызывает проблемы с конфиденциальностью, пользователи изначально полагали, что информация передается только ИИ, но на самом деле она может быть видна внешним подрядчикам. Внутри Meta также есть сомнения, что обучение подрядчиков по вопросам конфиденциальности является настоящим механизмом безопасности. Один из руководителей Meta впоследствии признал, что не сообщил тестировщикам заранее о вмешательстве человека, что было ошибкой, и эта функция была отменена. Meta заявила, что функция звонков все еще находится в тестировании и в будущем будет официально запущена только после обеспечения безопасности, конфиденциальности и четкого информирования.