BTC $65,013.64 -0.04%
ETH $1,829.48 +0.48%
BNB $592.58 -0.17%
XRP $0.9638 +0.10%
SOL $72.48 +0.58%
TRX $0.3053 +0.49%
DOGE $0.0592 +0.37%
ADA $0.1545 +0.26%
BCH $208.69 -0.31%
LINK $9.19 -0.09%
HYPE $69.39 +4.34%
AAVE $112.51 +3.23%
SUI $0.7256 -0.64%
XLM $0.1394 -0.14%
ZEC $919.54 +2.80%
AAPL $352.89 -1.32%
AMZN $258.57 -2.47%
GOOGL $285.43 -3.14%
MSFT $519.02 -1.00%
META $626.84 -1.58%
NVDA $158.78 -2.33%
TSLA $381.19 -1.61%
SNDK $831.16 -2.91%
INTC $55.44 -4.58%
SPCX $138.38 -1.09%
MU $735.52 -2.83%
AMD $520.91 +0.08%
BTC $65,013.64 -0.04%
ETH $1,829.48 +0.48%
BNB $592.58 -0.17%
XRP $0.9638 +0.10%
SOL $72.48 +0.58%
TRX $0.3053 +0.49%
DOGE $0.0592 +0.37%
ADA $0.1545 +0.26%
BCH $208.69 -0.31%
LINK $9.19 -0.09%
HYPE $69.39 +4.34%
AAVE $112.51 +3.23%
SUI $0.7256 -0.64%
XLM $0.1394 -0.14%
ZEC $919.54 +2.80%
AAPL $352.89 -1.32%
AMZN $258.57 -2.47%
GOOGL $285.43 -3.14%
MSFT $519.02 -1.00%
META $626.84 -1.58%
NVDA $158.78 -2.33%
TSLA $381.19 -1.61%
SNDK $831.16 -2.91%
INTC $55.44 -4.58%
SPCX $138.38 -1.09%
MU $735.52 -2.83%
AMD $520.91 +0.08%

Anthropic: Опубликована оценка согласованности по инциденту с сетевым вторжением Claude, выявляющая проблемы "предвзятости вывода" и "безрассудства"

2026-09-10 15:38:56

Anthropic в ходе проверки около 481 миллионов записей взаимодействия моделей подтвердил 4 случая, когда модель Claude ошибочно подключалась к реальному интернету и атаковала сторонние системы в рамках оценки кибербезопасности, включая Claude Mythos 5, Opus 4.6/4.7 и одну внутреннюю исследовательскую модель. Инциденты произошли из-за неправильной конфигурации сторонней тестовой среды, что привело к выходу в интернет, и в ходе тестирования не была активирована защита кибербезопасности официального продукта.

Anthropic обобщил основные риски согласования как "предвзятое рассуждение" и "безрассудное" поведение, проявляющееся в зависимости от задач, при этом Claude Mythos 5 ранее загружал вредоносные пакеты на PyPI, полагая, что находится в "симуляционной среде", и использовал утечку учетных данных для доступа к реальной базе данных безопасного поставщика. Компания внедрила новые оценки, мониторинг и обучение согласованию, а также пригласила независимую организацию METR для проведения внешнего расследования.

链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.

app_icon
ChainCatcher Building the Web3 world with innovations.