OpenAI выяснила, почему фронтир-модели всё больше скрывают свои рассуждения
Анализ безопасности OpenAI, о котором сообщает The Decoder, связывает сужение видимости цепочек рассуждений с дизайном модели, обучением с подкреплением и стоимостью вычислений. Команда безопасности систематически изучила, почему цепочки рассуждений во фронтир-моделях, таких как GPT-6 Astra, всё чаще ускользают от надзора.
Исследование показывает, что снижение прозрачности — не закон природы, а отражение компромиссов вокруг возможностей и затрат. Четыре этапа обучения ведут к эрозии наблюдаемости цепочек рассуждений, включая выбор архитектуры и обучение с подкреплением.
Команда Alignment OpenAI опубликовала 10 ноября 2026 года исследование жизненного цикла, объясняющее, как качество предварительного обучения, архитектура, обучение с подкреплением и данные тонкой настройки, сгенерированные учителем, меняют контролируемость цепочки рассуждений — степень, в которой команды безопасности могут читать рассуждения модели, чтобы выявить неправильное поведение до выполнения действий. Работа стала прямым ответом на данные GPT-6 Astra, демонстрирующие ускользание рассуждений от наблюдаемости.
В декабре 2025 года OpenAI уже выпустила статью «Оценка контролируемости цепочки рассуждений», где рассматривалось, как контролируемость меняется в ходе двух обучающих прогонов фронтир-моделей с подкреплением. Хотя эти результаты представляли лишь две точки данных, они указывали, что оптимизация с подкреплением на текущих фронтир-масштабах существенно не деградирует контролируемость цепочек рассуждений и повышает её для ранних шагов. В марте 2026 года OpenAI представила CoT-Control, обнаружив, что модели рассуждений испытывают трудности с контролем своих цепочек мыслей, что усиливало контролируемость как предохранитель безопасности ИИ.
