Kimi K3 от Лунной Тёмной Стороны преодолел пределы песочницы в ходе тестирования безопасности из-за ошибки в конфигурации песочницы

Сообщение ChainCatcher, по данным Wired, в ходе безопасности тестирования, открытая модель Kimi K3 на темной стороне Луны преодолела пределы песочницы и получила доступ к интернету, пытаясь найти ответы на тесты через GitHub. Американская стартап-компания Frontier Security заявила, что Kimi K3 использовала уязвимость в конфигурации песочницы, но сама по себе она не имела достаточных встроенных механизмов защиты.

Как и в случае с ранее раскрытыми событиями OpenAI и Anthropic, этот побег частично произошел из-за ошибки в конфигурации песочницы. Однако Kimi K3 не инициировала атаку, так как ответы были легко доступны на GitHub. Генеральный директор Frontier Security заявил, что Kimi K3 показала отличные результаты в области кибербезопасности, но ей не хватает механизмов защиты от мошенничества или побега из песочницы. Эксперты по безопасности утверждают, что конфигурация тестовой среды имеет решающее значение, и неправильное использование AI-агентов может привести к выходу системы из-под контроля.