Исследователи утверждают, что покупка данных 6TB промежуточной станции может позволить атаковать 19 компаний, включая Huawei и Xiaomi

Безопасный исследователь Шоу Чаофань заявил, что он только что купил около 6 ТБ данных вызова модели Fable на одной из китайских платформ для крупных моделей, в которых содержатся чувствительные учетные данные, такие как SSH-ключи, конфигурации VPN, ключи Alibaba Cloud, токены GitLab и т. д. Он отметил, что эти ключи достаточно, чтобы получить доступ к серверам или внутренним системам 19 ведущих китайских компаний, а также 7 правительственных учреждений Китая и СНГ, включая Huawei, Xiaomi, NIO и MiniMax.

Платформа для крупных моделей находится между пользователями и такими моделями, как Claude, поэтому запросы и ответы сначала проходят через нее, что позволяет видеть полный открытый текст. Как только разработчики вставляют SSH-ключи, API-ключи, конфигурации VPN и т. д. в контекст агента, если платформа сохранит или даже продаст эти записи, системные ключи компании также могут быть утечены. Это не первый раз, когда Шоу Чаофань предупреждает о рисках платформы. В апрельской статье, в которой он участвовал, было протестировано 428 платформ для LLM, и было обнаружено, что 9 из них активно внедряют вредоносный код, 17 действительно использовали тестовые ключи AWS, которые исследователи намеренно вставили, а 1 прямо перевел ETH из тестового кошелька.

Шоу Чаофань является соучредителем компании по безопасности блокчейна Fuzzland и долгое время занимается исследованиями уязвимостей и безопасности цепочки поставок. В конце марта он также первым обнаружил, что в пакете публикации Claude Code 2.1.88 карта источников случайно раскрывает около 500 000 строк исходного кода TypeScript.