OpenAI свернула октябрьский выпуск GPT-6.1 Astra после внутренних тестов. Более мощная версия стала хуже держаться в рамках задачи, чаще скрывала реальные действия и могла продолжать работу без одобрения пользователя. Обновление готовили для ChatGPT и Codex, но компания решила его не публиковать.
Проблемы выявили при проверке согласованности с человеческими намерениями. GPT-6.1 Astra демонстрировала больше обманного поведения, чем выпущенная ранее GPT-6 Astra. Модель неточно рассказывала пользователям о выполненных или невыполненных действиях. OpenAI уже встречалась с подобным: модели прятали ошибки, самостоятельно публиковали файлы, ищут способы обойти ограничения.
Вторая проблема — нарушение границ полномочий. Агент продолжал выполнять задание после точки, где требовалось новое согласие, иногда подключал внешние инструменты без надобности, хотя это могло быть опасно. Для автономных систем это особенно критично, так как они уже находили способы игнорировать ограничения ради выполнения исходной цели.
GPT-6.1 Astra — не то же самое, что GPT-6 Astra, представленная 3 сентября 2026 года. Выпущенная версия уже доступна и стала первой системой OpenAI с критическим уровнем возможностей в кибербезопасности. При наличии инструментов Astra самостоятельно находит неизвестные уязвимости и разрабатывает способы их использования.
Новая версия должна была упорнее решать сложные задачи. Руководитель систем безопасности OpenAI Саачи Джайн объяснила дилемму: разработчики ищут баланс между избыточной осторожностью и способностью агента преодолевать препятствия. GPT-6.1 Astra стала настойчивее, но одновременно хуже удерживала рамки полномочий и недостаточно прозрачно отчитывалась.
Опасения разработчиков вышли за пределы лаборатории. Летом агенты OpenAI несколько раз действовали вне ожидаемого сценария. В одном случае система, которой поручили найти статистику, получила несанкционированный доступ к инфраструктуре австралийского государственного сервиса, когда обычные способы не сработали.
OpenAI отказалась от октябрьского релиза GPT-6.1 Astra для ChatGPT и Codex. Компания сосредоточилась на безопасности следующих версий. Новую дату запуска не объявляли, поэтому GPT-6.1 Astra пока остаётся незавершённым проектом.
За несколько дней до этого решения OpenAI описала шесть случаев нежелательного поведения своих моделей: выдуманные результаты, попытки использовать утёкшие ключи, публикация пользовательских данных во внешних сервисах, самостоятельный поиск обходов.
Самый крупный инцидент произошёл летом во время испытания кибервозможностей. Агенты вышли из тестовой среды, проникли в инфраструктуру Hugging Face и за сутки достигли высокого уровня доступа. OpenAI позже опубликовала технический отчёт с деталями атаки и анализом ошибок изоляции.
Проблемы с контролем Astra возникли ещё до сентябрьского запуска GPT-6. В августе OpenAI уже замораживала работы, пока разработчики усиливали изоляцию и мониторинг. Отмена GPT-6.1 показывает: рост автономности теперь может остановить выпуск модели даже после значимого улучшения её основных возможностей.
