Спор о безопасности моделей Anthropic обострился, Amazon обвиняется в том, что она является "закулисным игроком", провоцирующим вмешательство регуляторов

Согласно сообщениям ChainCatcher и Wall Street Journal, экспортный контроль и ограничения доступа к модели Anthropic Fable 5 / Mythos 5 со стороны правительства США частично обусловлены исследованиями в области кибербезопасности Amazon, а также коммуникацией генерального директора AWS Энди Джасси с Белым домом.

Сообщается, что исследование, представленное Amazon, указывает на то, что с помощью серии подсказок исследователи смогли побудить Fable 5 выдавать чувствительную информацию, которая может быть использована для кибератак, что вызвало опасения по поводу безопасности. В результате Энди Джасси сообщил об этих находках на уровне правительства США, что побудило Белый дом принять дополнительные ограничительные меры, включая запрет на доступ к модели для иностранных пользователей.

В то же время, бывший чиновник Министерства торговли США Кейт Корен сообщила, что существующая позиция Белого дома по отношению к Anthropic также могла повлиять на это решение, поскольку между Anthropic и Белым домом существуют разногласия по вопросам безопасности ИИ, включая отказ использовать модель для массового наблюдения или смертоносных автономных систем оружия. Несмотря на то, что в начале этого года стороны временно смягчили и расширили сотрудничество, этот инцидент может снова обострить напряженность между ними.