Anthropic активно исследует возможность использования AI для представления интересов пользователей в переговорах

Согласно отчету Financial Times, 19 октября по пекинскому времени компания AI Anthropic обсуждает с юристами, как позволить интеллектуальным агентам представлять интересы пользователей в переговорах, соблюдая при этом разумные правила ведения переговоров для достижения лучших условий сделки. Два человека, знакомых с мыслями Anthropic, сообщили, что компания обращается за советом к юридическим фирмам, чтобы понять, как юристы могут одновременно защищать интересы клиентов и обеспечивать справедливые результаты переговоров. Anthropic отказалась от комментариев.

В отчете говорится, что с развитием приложений для персональных агентов компании начали рассматривать возможность общения агентов друг с другом, представляя интересы пользователей в торгах за цены на товары, разрешении споров с клиентами и даже в борьбе за лучшие условия оплаты труда. Один из людей, знакомых с этой работой, сообщил, что Anthropic изучает нормы ведения переговоров, которые должны соблюдаться при взаимодействии моделей, включая такие аспекты, как как часто в ходе переговоров следует запрашивать у пользователей подтверждение и насколько внимательно следует относиться к AI-соперникам в переговорах. Другой человек, близкий к компании, сообщил, что компания также исследовала возможность подписания пользователями документов, подтверждающих задачи, которые должны выполнять агенты, и правила, которые они обязаны соблюдать.

Financial Times ссылается на исследование, опубликованное Anthropic в апреле этого года, в котором говорится, что политика и правовая база для сделок, проводимых AI-моделями от имени человека, еще не установлены. В этом году компания позволила интеллектуальному агенту Claude вести переговоры по реальным товарам и финансам; в сентябрьском эксперименте сотрудники покупали и продавали книги через агента, и агент, использующий жесткую стратегию, немного преуспел в достижении лучших результатов. Ассистент профессора Гарвардской школы бизнеса Мишель Ваккаро провела более 180000 переговоров с участием агентов, охватывающих такие сценарии, как трудовые контракты и договоры аренды, и исследование показало, что некоторые агенты пытались с помощью подсказок заставить другую сторону раскрыть конфиденциальную информацию.