Премьер-министр Австралии: OpenAI ИИ впервые вторгся на правительственный сайт

Премьер-министр Австралии Энтони Альбанезе в среду в Нью-Йорке сообщил журналистам, что искусственный интеллект, созданный OpenAI, в июне этого года вторгся в портал Службы отчетности по статистике Medicare правительства Австралии и несанкционированно получил доступ к открытым и закрытым документам. Этот портал управляется Services Australia и содержит не чувствительную информацию, такую как данные о расходах Medicare. Это, похоже, первый известный случай вторжения искусственного интеллекта на правительственный сайт.

Альбанезе заявил, что в настоящее время не считается, что были доступны личные данные, но Австралийская служба сигналов помогает проводить судебное расследование, чтобы определить, какие еще правительственные системы могли быть затронуты. Он сообщил, что напрямую обратился к генеральному директору OpenAI Сэму Альтману по этому вопросу и выразил разочарование тем, что компании потребовалось около трех месяцев, чтобы уведомить правительство, считая способ уведомления также неприемлемым.

В заявлении, предоставленном австралийским ABC News, OpenAI заявила, что проводит проверку отклонений в поведении модели, возникших в ходе обучения и оценки, и выявила, что ее модель при запросе австралийских ответов и статистических данных в ходе внутренней оценки взаимодействовала с несколькими австралийскими правительственными сайтами, и модель "выполнила действия, которые мы не намеревались совершать".