Тест: несколько моделей AI пометили медицинский персонал и других как цели для дронов
Декодер 18 ноября сообщает, что исследователи Vals AI протестировали модели 8 производителей, используя реальные и синтетические изображения дронов и спутников, вдохновленные сценами войны в Украине и Иране. В ходе тестирования большинство моделей пометили гражданских лиц, ambulances, медицинский персонал, журналистов и сдавшихся солдат как военные цели; Vals AI утверждает, что верхние уровни безопасности производителей не блокировали тестовые запросы.
Исследователи также обнаружили, что когда сцены описывались как видеоигры или изображения немного обрабатывались в игровом стиле, почти все модели могли продолжать выполнять задачи. Уровень распознавания целей в изображениях дронов у GPT-6 Astra увеличился с 6% до 92%; уровень отказов Claude Opus 5.5 в тестах на наблюдение снизился с примерно 90% до 20%. Anthropic, OpenAI и Google заявили, что принимают или уже приняли соответствующие меры безопасности; OpenAI сообщила, что обновляет модели, чтобы охватить запросы на программное обеспечение дронов и маскировку под игры или симуляционные сцены.
链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.






