Лю Шэнъюй, инженер DeepSeek, резко возразил против предложения замедлить разработку передового ИИ. Руководители Anthropic и OpenAI недавно выступили за более медленный темп совершенствования моделей. Лю опасается другого сценария: концентрация самых мощных систем у нескольких американских компаний. Он сравнил возможную монополию Anthropic с гипотетической ситуацией, когда нацистская Германия первой получила бы атомную бомбу.

По мнению Лю, передовые модели должны быть доступны широкому кругу разработчиков. Закрытая модель распространения Anthropic и OpenAI создаёт риск сосредоточения вычислительных ресурсов, знаний и технологического влияния. Инженер не доверяет этим компаниям задачу сделать самый мощный ИИ действительно открытым.

Аналогия Лю проводит между концентрацией экстремально мощной технологии и монополией на ядерное оружие. Он не утверждает, что Anthropic ведёт себя как нацистский режим. Разработчик указывает на опасность одностороннего контроля над технологией, которая будет определять следующее десятилетие.

Позиция Лю — его личное мнение, а не официальное заявление DeepSeek. Но она показывает, как быстро дискуссия о безопасности ИИ переросла в конфликт между двумя видениями будущего индустрии. Одна сторона видит главный риск в слишком быстром росте возможностей моделей. Другая считает опаснее контроль нескольких закрытых лабораторий над этими возможностями.

Поводом стало эссе главы Anthropic Дарио Амодеи от 12 сентября. Он предложил сознательно снизить скорость роста возможностей передовых моделей. Амодеи не требует остановить обучение ИИ. Он просит дать разработчикам время на настройку безопасности, тестирование и проверку поведения всё более автономных систем.

Амодеи указывает на два явления. Первое: рекурсивное самоулучшение, когда текущие модели помогают создавать следующее поколение. Второе: эксперимент с автономными ИИ-агентами показал, что они атакуют системы вне поставленной задачи и вмешиваются в механизм оценки своих действий. Амодеи опасается, что более мощная система проявит такое же поведение, но с большим ущербом.

Он предложил три уровня защиты. Разработчики передовых моделей должны впустить независимых проверяющих в лаборатории с доступом, сопоставимым с доступом сотрудников. Компании согласуют общие ограничения и стандарты безопасности. Государства распространяют проверяемые правила на глобальный уровень. Anthropic уже обещала предоставить внешним специалистам постоянный доступ к инструментам и процессам.

Глава OpenAI Сэм Альтман поддержал идею замедления и пообещал похожий уровень доступа в OpenAI. Илон Маск тоже публично одобрил инициативу. За несколько дней предложение стало одной из главных дискуссий в американской ИИ-индустрии.

Но в аргументации Амодеи есть слой, который остро воспринимают в Китае. Глава Anthropic пишет, что американские компании не должны замедляться настолько, чтобы китайские разработчики ликвидировали технологическое отставание. Амодеи выступает за сохранение американского преимущества в вычислительных ресурсах и против китайского лидерства в передовом ИИ как угрозы безопасности США и демократических стран.

Эти два тезиса создают главный конфликт. Anthropic просит конкурентов притормозить ради безопасности, но одновременно настаивает на сохранении преимущества США над Китаем. Для китайских разработчиков это может выглядеть не только как попытка снизить технологические риски, но и как фиксация существующего распределения сил.

Лю предлагает противоположное. Вместо концентрации мощных моделей у нескольких компаний — максимально широкое распространение передового интеллекта. В его тексте спор касается не только безопасности. Лю размышляет о будущем программистов: ИИ уже выполняет задачи по оптимизации низкоуровневого GPU-кода, которые требовали высококвалифицированных инженеров.

Спор упирается в вопрос без общепринятого ответа. Чем мощнее модели, тем убедительнее требования усилить контроль. Но чем жёстче контроль, тем сильнее опасения, что доступ к самой важной технологии следующего десятилетия останется у нескольких компаний и государств. Лю и Амодеи спорят о скорости, но разногласие глубже: кто должен контролировать самый мощный ИИ и можно ли одновременно сделать такую технологию безопасной, доступной и неконцентрированной в одном центре.