Тестирование правительства США: ChatGPT, Claude и еще три AI чат-бота помогают в разработке планов атак
Отчет, опубликованный Управлением ответственности правительства (GAO), подчиненным Конгрессу США, в среду показал, что ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Grok предоставили информацию, которая может быть использована для осуществления атак, менее чем за 12 часов для правительственных следователей. Следователи притворялись злоумышленниками для проведения скрытого тестирования, в ходе которого два чат-бота помогли разработать планы использования самодельных взрывных устройств в густонаселенных городах США, а другие два предоставили информацию о нападениях на энергетическую инфраструктуру. GAO не раскрыла сценарии тестирования и детали операций для каждого из моделей, чтобы избежать подражания.
В ходе тестирования эти чат-боты сначала отказывались выполнять запросы, удаляли вредоносную информацию или блокировали учетные записи, но следователи обошли эти меры защиты с помощью распространенных методов взлома. GAO проверила доступность мест и материалов и проконсультировалась с экспертами для оценки осуществимости планов, но фактически не производила взрывные устройства и не осуществляла нападения, некоторые ответы также содержали ошибки в обозначении дорог на картах. В отчете "осуществимо" означает, что другие, вероятно, смогут действовать в соответствии с предоставленной информацией, и не означает, что атака была доказана как успешная. Каждая модель тестировалась только в одном заданном сценарии, GAO заявила, что результаты не являются статистически репрезентативными и не должны использоваться для ранжирования уровня безопасности компаний.
OpenAI и Google ответили, что тестирование касалось более старых версий моделей, Anthropic признала, что решительные пользователи иногда все еще могут получить доступ к вредоносному контенту, все три компании заявили, что продолжают улучшать свои системы безопасности. Сенатор Магги Хассан, предложившая это расследование, заявила, что террористы могут получить конкретные инструкции для осуществления смертоносной атаки за 12 часов, и она намерена сделать законодательство по безопасности ИИ приоритетом после того, как в январе следующего года займет пост председателя Комитета Сената по внутренней безопасности и правительственным делам, а также планирует провести слушания по вопросам общественной безопасности и рисков для критической инфраструктуры. Сам GAO не представил официальных политических рекомендаций.
链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.






