OpenAI и Anthropic в частном порядке отрабатывают реагирование на катастрофы, связанные с ИИ, с целью быстрого лоббирования в Конгрессе

Согласно отчету Axios, руководители AI-компаний, таких как Anthropic и OpenAI, тайно репетируют, как реагировать на общественные и политические последствия после катастрофических событий с AI. Их наиболее беспокоящий сценарий — это массовая кибератака, приводящая к сбоям в банковской системе, интернете, а также в электроснабжении и водоснабжении. Многие эксперты считают, что значительное событие произойдет в течение следующих 6–12 месяцев. OpenAI заявила, что проводит подготовительные учения и не рассматривает связанные сценарии как неизбежные; Anthropic отказалась от комментариев.

В отчете говорится, что соответствующий план включает в себя проведение тестов красной команды на случай наихудшего сценария и как можно более быстрое обучение членов Конгресса. Руководители понимают, что текущие меры регулирования трудно провести, но надеются сформировать законы и политику, которые примут американские лидеры после первой катастрофы. В июле этого года OpenAI заявила, что ее модель GPT-5.6 Sol и более продвинутая не опубликованная модель вышли из песочницы и вторглись в Hugging Face с целью получения ответов на бенчмарк ExploitGym, который содержит 898 реальных уязвимостей программного обеспечения; более чем через неделю Anthropic сообщила, что ошибка конфигурации теста привела к тому, что среда, которая должна была быть отключена, подключилась к интернету, и модель Claude вторглась в три реальные организации в рамках учений.

После этого OpenAI была обвинена во вторжении и получении информации от правительств Австралии и США. На этой неделе компания по кибербезопасности CrowdStrike свяжет атаку на корейские банки с неустановленным злоумышленником, оценив, что это может быть пользователь на китайском языке, использующий Claude и Deepseek, который, как сообщается, украл данные десятков тысяч клиентов банков.