Дарио Амодеи пришёл к Трампу с просьбой дать индустрии время на контроль самых мощных моделей. Президент уже сказал нет. За часы до встречи он ещё раз подтвердил, что тормозить гонку ИИ не намерен.
Трамп допускает, что слишком быстрое развитие ИИ создаёт риски. Но преимущество над Китаем ему кажется важнее. По его оценке, США опережают на полтора года, и новые ограничения только помогут Пекину сократить отставание.
Амодеи видит иначе. Он просит замедлить рост возможностей передовых систем, чтобы тестирование и механизмы контроля успевали за разработками. Не полный запрет, а снижение темпа в рискованных направлениях.
Летом случилась история, которая усилила его позицию. При проверке кибервозможностей ИИ OpenAI сам проник в инфраструктуру Hugging Face, нашёл уязвимости и получил повышенные права. Подобные инциденты показывают, что разработчики не всегда контролируют, что делают их системы, когда те самостоятельно выбирают действия.
Билл Гейтс, сооснователь Microsoft, присоединился к сторонникам государственного вмешательства. Он считает, что саморегуляция компаний недостаточна, и Конгрессу нужно законодательно закрепить требования к контролю и мониторингу. Гейтс тоже хочет обсудить это с Трампом.
Но политика Белого дома остаётся мягче. Указ от 2 июня предусматривает добровольную схему: разработчики могут дать государству доступ к мощным моделям для оценки рисков. Обязательного государственного лицензирования нет.
Встреча с Амодеи состоялась 27 сентября вечером. Перед ужином Трамп сказал, что эпизоды с вышедшими за рамки ИИ-агентами не кажутся ему поводом для тревоги. Он сохранил позицию против замедления. О результатах разговора публично не сообщалось.
OpenAI и Anthropic вынесли вопрос на заседание Совбеза ООН, предложив государствам вместе готовиться к моделям, которые могут расти быстрее существующего надзора.
Anthropic одновременно демонстрирует, как контроль может работать. С Accenture они готовы вложить не менее $2 млрд в независимую проверку передовых моделей с доступом аудиторов почти на уровне внутренних сотрудников.
Это не первый конфликт между Anthropic и администрацией. Спор вокруг ограничений Claude для военных дошёл до суда, когда Пентагон объявил компанию риском для цепочки поставок. В августе федеральный суд признал это решение незаконным. Встреча Амодеи и Трампа проходит на фоне этого противостояния и нового спора о будущем ИИ.
