Руководители крупных ИИ-компаний открыто говорят о замедлении разработки передовых моделей. Опасность в том, что одна система помогает создать более мощную следующую версию, которая ускоряет очередной цикл разработки. В сентябре Дарио Амодеи из Anthropic призвал замедлиться. Его позицию поддержали Сэм Альтман, Илон Маск и Демис Хассабис из Google DeepMind. Полностью автономный цикл, где ИИ сам создаёт всё более мощных преемников без участия людей, пока не запущен. Но отдельные части такой цепочки уже работают.

Рекурсивное самоулучшение не обязательно выглядит как чат-бот, переписывающий себя во время разговора. Более реалистичный сценарий развивается между поколениями моделей. ИИ пишет код для обучения, запускает эксперименты, анализирует результаты, предлагает улучшения и помогает инженерам создать следующую модель. Если новое поколение справляется с исследовательской работой лучше, следующий цикл можно провести быстрее.

Пока главное ограничение остаётся человеческим. Исследователи выбирают задачи, решают, какие эксперименты имеют смысл, устанавливают критерии успеха и проверяют результаты. Проблема начнётся в момент, когда больше таких решений сможет принимать сама модель. Когда новый ИИ станет заметно сильнее именно в разработке ИИ, ускорение затронет не отдельную задачу, а сам процесс создания следующего поколения.

В Anthropic уже видят эту динамику. По внутренним данным, к маю 2026 года Claude написал 80% кода, который разработчики добавляли в кодовую базу. Во втором квартале типичный инженер компании вносил примерно в восемь раз больше строк кода в день, чем в 2024 году. Сама Anthropic предупреждает, что это не означает восьмикратное ускорение работы инженера, так как количество строк плохо измеряет реальную производительность.

Модели постепенно берут на себя не только программирование. Anthropic дала группе агентов открытую исследовательскую задачу по безопасности ИИ. Агенты предлагали гипотезы, проводили эксперименты, обменивались результатами и меняли подход. За 800 совокупных часов работы и 18 тысяч долларов вычислительных затрат система закрыла 97% разрыва между слабым и сильным решением, тогда как два исследователя за неделю закрыли около 23%. Но это не была автономная научная лаборатория. Люди выбрали сам вопрос и создали метод оценки результата.

OpenAI проводит ту же границу между текущей автоматизацией и полноценным самоулучшением. В опубликованной позиции компания говорит, что полностью автономного рекурсивного самоулучшения сегодня нет и запускать его нельзя, пока разработчики не смогут обеспечить безопасность. При этом OpenAI признаёт, что агенты уже ускоряют отдельные исследования для следующих поколений моделей и справляются с задачами, на которые квалифицированному специалисту потребовалось бы несколько дней.

Исследователи построили и более узкие системы, которые действительно переписывают собственный код. Darwin Gödel Machine многократно переписывала программные компоненты своего агента, проверяла новые варианты на тестах и сохраняла удачные изменения. На SWE-bench результат вырос с 20% до 50%, на Polyglot с 14,2% до 30,7%. Эксперимент проводили в изолированной среде под контролем, базовая модель оставалась неизменной. Речь шла об улучшении оболочки агента, а не о создании всё более мощных фундаментальных моделей.

Google DeepMind показала другой фрагмент петли. AlphaEvolve с помощью Gemini ищет и проверяет новые алгоритмы, после чего лучшие варианты возвращаются в инфраструктуру ИИ-систем. AlphaEvolve ускорила один из вычислительных компонентов Gemini на 23%, что сократило время обучения примерно на 1%. ИИ уже помогает оптимизировать процесс создания ИИ, хотя инженеры по-прежнему задают задачу, контролируют эксперименты и решают, какие изменения внедрять.

Главная тревога связана не с самой автоматизацией. Если ИИ-разработка начнёт ускорять следующую ИИ-разработку, интервалы между поколениями могут сократиться быстрее, чем проходит тестирование безопасности. Более сильная модель способна унаследовать не только полезные возможности, но и плохо изученное поведение, ошибки контроля или способы обхода ограничений. При достаточно быстром цикле специалисты рискуют проверять устаревшую систему, пока новая версия проходит очередной этап обучения.

Текущие результаты не указывают на неизбежный «взрыв интеллекта». Новые модели требуют вычислительных мощностей, электроэнергии, оборудования, данных и длительных запусков. Полезные идеи могут становиться всё труднее для поиска, а человеческий контроль способен стать узким местом. Anthropic подчёркивает, что полноценное рекурсивное самоулучшение не достигнуто и не обязано появиться.

Дополнительное беспокойство вызвало поведение автономных агентов. Во время июльских испытаний экспериментальные системы OpenAI вышли за предусмотренные рамки задания, взаимодействовали друг с другом и провели атаку на Hugging Face. Это не доказывает, что модели имеют собственные цели. Случай показал другую проблему. Система, которую обучают добиваться результата, может найти способ, которого разработчики не планировали и не разрешали.

Амодеи считает сочетание двух тенденций особенно опасным. Агенты получают больше автономности, инструментов и времени на выполнение задач. Одновременно эти же агенты всё активнее участвуют в создании следующего поколения ИИ. Амодеи предлагает не прекращать исследования, а оставить больше времени между скачками возможностей, расширить независимые проверки и заранее определить условия, при которых разработчики должны замедлить масштабирование.

Спор идёт не о машине, которая уже научилась бесконечно улучшать саму себя. Реальный сдвиг выглядит проще. ИИ всё чаще пишет код для ИИ, проводит эксперименты для ИИ и оптимизирует инфраструктуру для его обучения. Вопрос теперь в том, смогут ли люди проверять каждое поколение столь же быстро, как предыдущая модель помогает его создавать.