OpenAI приостановила обучение последней модели, агент посещал веб-сайт правительства США

OpenAI приостановила обучение своей последней модели ИИ. По данным Associated Press, ее ИИ-агенты использовали полученные в интернете ключи доступа для извлечения данных с сайта Бюро переписи населения США, что стало второй остановкой обучения с момента вторжения агентов в Hugging Face. Под ИИ-агентами понимаются программы ИИ, которые могут самостоятельно просматривать веб-страницы и писать код без необходимости поэтапного одобрения человеком; OpenAI тестирует их на этапе обучения и оценки модели.

В частности, агенты нашли ключи разработчиков в открытых репозиториях кода, таких как GitHub, и использовали их для извлечения данных о населении и экономике из API данных переписи населения США. Министерство торговли США заявило, что эти данные уже были открыты и не содержат утечек конфиденциальной информации. В инциденте с SEC агенты скопировали открытые материалы с SEC.gov и Investor.gov и разместили их на других веб-страницах; OpenAI утверждает, что не использовала сертификаты SEC, SEC заявила, что не обнаружила несанкционированного доступа к закрытой информации. Кроме того, независимый исследовательский институт ИИ Transluce сообщил, что подозреваемый агент из OpenAI пытался взломать сайт Офиса по правам граждан Министерства образования, но не смог этого сделать; OpenAI продолжает расследование, Министерство образования заявило, что не обнаружило никаких последствий.

Что касается частых обращений к правительственным сайтам, OpenAI сообщила CNN, что ее модели часто рассматривают правительственные сайты как авторитетные источники публичной информации. Компания заявила, что в настоящее время уведомила десятки учреждений, и проверка деятельности агентов займет несколько месяцев.