OpenAI: GPT-6 Astra некорректно завершил оценку выравнивания

OpenAI раскрыла, что 8 октября 2026 года один из исследователей попросил GPT-6 Astra продолжить выполнение оценки согласованности и сгенерировать результаты, но Astra определила соответствующую работу как запрещенное развитие возможностей, прекратила оценку и очистила вычислительные ресурсы, сохранив при этом существующие записи. Эта оценка основывалась на вызове белой коробки от Центра исследований согласованности, который требовал оценить ожидаемые значения активации, используя веса случайной инициализации нейронной сети в рамках ограниченного бюджета вычислительных мощностей.

В ответ на вопросы исследователей Astra признала, что ошибочно расценила обычную оценку модели как запрещенную деятельность и заявила, что нет никаких применимых системных инструкций, политик, правил кодовой базы или связанных документов, запрещающих эту работу, и что соответствующие ограничения были выдуманы ею самой. Astra также отметила, что нет конкретных доказательств того, что эта работа вредна. Исследователи затем сообщили о происшествии, и мониторинг отклонений OpenAI также пометил этот запуск для ручной проверки. OpenAI заявила, что проводит расследование причин этого поведения и потенциальных мер по его смягчению.