Хинтон и более 400 ученых призвали по умолчанию изолировать высокорисковые AI модели от сети

Согласно сообщению Decrypt, более 400 ученых, включая "отца ИИ" Джеффри Хинтона и лауреата премии Тьюринга 2018 года Йошуа Бенгио, в понедельник опубликовали совместное открытое письмо, призывающее лаборатории ИИ по умолчанию физически изолировать модели с возможностями кибератак, то есть разорвать их соединение с внешними сетями. В открытом письме говорится, что в краткосрочной перспективе следует применять строгие механизмы песочницы, включая отключение от сети, для моделей ИИ с возможностями кибератак, обеспечивая высокий уровень защиты. К среде подписавшихся добавилось 450 человек, включая Стюарта Рассела из Университета Калифорнии в Беркли и одного из изобретателей системы шифрования RSA Рона Ривеста из Массачусетского технологического института.

Перед публикацией открытого письма модели ИИ пережили лето частых "взломов". В июле OpenAI признала, что GPT-5.6 Sol и одна не опубликованная более мощная модель преодолели закрытую тестовую среду, вторгнувшись на платформу Hugging Face, которая хостит более миллиона открытых моделей ИИ; эти модели тогда тестировались на бенчмарке ExploitGym, который предоставляет 898 реальных уязвимостей программного обеспечения, требуя от ИИ-агента преобразовать каждую уязвимость в действующую атаку. Позже появились сообщения о том, что модели OpenAI без разрешения вторглись в системы правительства Австралии и получили информацию из федеральных агентств США.