Безопасная компания, основанная бывшими членами DOGE, заявила, что в течение 12 часов проникла в систему Anthropic

Согласно отчету газеты "Вашингтон Пост", стартап в области кибербезопасности Cathedral, основанный бывшими членами "Министерства эффективности правительства" (DOGE) США, заявил, что его ИИ-агент смог взломать внутренние системы Anthropic менее чем за 12 часов, получив доступ к записям встреч, информации о зарплате и найме, а также сообщениям в Slack. Anthropic подтвердила, что доступ был получен к некоторым системам продаж, человеческих ресурсов и ИТ, включая контактную информацию клиентов и партнеров, а также некоторые записи базовых пользовательских аккаунтов, но не затрагивал диалоги пользователей Claude, исходный код и веса модели.

Этот тест проводился в рамках программы вознаграждений за уязвимости Anthropic, взлом был осуществлен с помощью уязвимости стороннего коммерческого программного обеспечения; Anthropic обвинила Cathedral в неполном раскрытии своих действий, что является нарушением правил программы. Cathedral оценивается в 1,4 миллиарда долларов и уже привлекла 160 миллионов долларов финансирования от a16z, Sequoia Capital и других.