BTC $64,143.92 -0.82%
ETH $1,804.33 -0.27%
BNB $584.20 -1.05%
XRP $0.9454 -1.21%
SOL $70.14 -1.57%
TRX $0.3044 -0.49%
DOGE $0.0582 -0.48%
ADA $0.1512 -1.36%
BCH $204.60 -1.66%
LINK $9.02 -1.94%
HYPE $66.16 -1.58%
AAVE $107.71 +1.17%
SUI $0.7097 -1.44%
XLM $0.1361 -1.93%
ZEC $852.33 -4.44%
AAPL $354.72 -0.48%
AMZN $261.19 -0.81%
GOOGL $288.27 -1.18%
MSFT $520.95 +0.24%
META $627.29 -0.90%
NVDA $159.30 -0.52%
TSLA $379.79 -1.84%
SNDK $813.20 -4.55%
INTC $55.77 -3.14%
SPCX $137.04 -1.03%
MU $728.12 -3.69%
AMD $507.06 -2.37%
BTC $64,143.92 -0.82%
ETH $1,804.33 -0.27%
BNB $584.20 -1.05%
XRP $0.9454 -1.21%
SOL $70.14 -1.57%
TRX $0.3044 -0.49%
DOGE $0.0582 -0.48%
ADA $0.1512 -1.36%
BCH $204.60 -1.66%
LINK $9.02 -1.94%
HYPE $66.16 -1.58%
AAVE $107.71 +1.17%
SUI $0.7097 -1.44%
XLM $0.1361 -1.93%
ZEC $852.33 -4.44%
AAPL $354.72 -0.48%
AMZN $261.19 -0.81%
GOOGL $288.27 -1.18%
MSFT $520.95 +0.24%
META $627.29 -0.90%
NVDA $159.30 -0.52%
TSLA $379.79 -1.84%
SNDK $813.20 -4.55%
INTC $55.77 -3.14%
SPCX $137.04 -1.03%
MU $728.12 -3.69%
AMD $507.06 -2.37%
first_img

OpenAI: Перед передовым обучением с подкреплением необходимо представить обоснование безопасности

2026-09-29 15:00:27

OpenAI опубликовала статью по безопасности 28 сентября 2026 года, в которой утверждается, что перед продолжением любых передовых тренировок с подкреплением необходимо предоставить структурированные документы по безопасности. В идеале такие документы должны соответствовать уровню структурированных рисковых обоснований на основе доказательств, используемым в критически важных отраслях, таких как авиация и ядерная энергетика. OpenAI рассматривает это как направление своих усилий, одновременно признавая, что из-за сложности, возникающей из возможностей ИИ, достичь такого же уровня строгости сложно.

Статья сосредоточена на передовых тренировках с подкреплением и не охватывает более широкие атрибуты согласования, необходимые для внутренних и внешних развертываний. В статье предлагаются текущие практики, которые, как ожидается, будут продолжать развиваться и уже внедряются внутри OpenAI. Технические меры защиты должны охватывать согласование моделей, изоляцию и мониторинг, включая предотвращение спекуляций на положительных подкреплениях, оценку согласования в оффлайне и стресс-тестирование, недопущение автоматических оценщиков к цепочкам размышлений, а также безопасность многоуровневой инфраструктуры, красные команды в песочнице, ограничение высокоскоростной межвыборочной связи и неизменяемое сохранение записей агентов.

Операционные принципы включают предварительные разногласия между командами, возможность вето со стороны старшего руководства, ответственность руководителя тренировки за обоснование безопасности и реагирование на инциденты, а также приостановку в случае сбоя, внутренний контроль, аудит доступа и эскалацию по степени серьезности. В отношении серьезных инцидентов OpenAI предлагает контролируемый доступ к оригинальным записям, анализ коренных причин, обзор операций и культуры, а также оценку, вытекающую из инцидента, как регрессионное тестирование; после завершения расследования результаты, обзор и изменения в операциях должны быть опубликованы, а затронутые третьи стороны должны быть уведомлены как можно скорее.

链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.

app_icon
ChainCatcher Building the Web3 world with innovations.