OpenAI новая модель Astra может самостоятельно обнаруживать и использовать уязвимости в программном обеспечении, получив оценку "серьезный" уровень сетевых возможностей

OpenAI заявила, что ее предстоящая модель Astra сможет самостоятельно обнаруживать ранее неизвестные программные уязвимости и превращать их в доступные средства атаки без необходимости человеческого вмешательства, став первой моделью компании, достигнувшей порога уровня кибербезопасности "критический" (Critical). В блоге, опубликованном во вторник, OpenAI отметила, что согласно ее Preparedness Framework, достижение этого уровня означает, что модель может обнаруживать нулевые уязвимости и разрабатывать рабочий код эксплуатации в укрепленных реальных системах без вмешательства человека, или разрабатывать и выполнять атаки, основываясь только на одной высокоуровневой цели.

В тестировании Astra показала 100% результат в бенчмаркинге по разработке кода эксплуатации на основе известных уязвимостей и обнаружила две ранее неизвестные уязвимости в другом внутреннем тесте. Кроме того, модель успешно преодолела укрепленный песочницу браузера и выполнила команды на хост-машине, одновременно получив права root, комбинируя несколько уязвимостей в операционной системе. OpenAI сообщила, что отложила часть разработки Astra, чтобы усилить меры безопасности, и планирует предоставить свои передовые возможности кибербезопасности только отобранным тестировщикам.

Эта способность особенно актуальна для криптоиндустрии, поскольку программные уязвимости могут быть превращены в финансовые потери за считанные минуты. CoinDesk сообщал в июне этого года, что все более мощные модели ИИ могут сократить процесс поиска кода, обнаружения ошибок конфигурации и сборки атак с нескольких дней или недель до машинной скорости. В то время исследователи безопасности отметили, что более значительные изменения заключаются не в появлении новых категорий атак, а в значительно ускоренном обнаружении и использовании существующих уязвимостей.