Калифорния начала работать над обязательным аварийным отключением для самых мощных ИИ-моделей. 18 сентября губернатор Гэвин Ньюсом подписал распоряжение N-9-26, поручившее властям штата подготовить законодательные изменения. Они должны включить требование установить «kill switch» для передовых моделей и регулярно проверять, действительно ли механизм способен остановить систему.

Полного запрета или готовой кнопки для мгновенного отключения нейросетей пока нет. Распоряжение требует к 16 ноября 2026 года представить рекомендации о технической возможности и эффективности такого требования. После этого штат сможет закрепить конкретные условия в законах и определить, как должен функционировать механизм остановки.

Проверку механизма предлагают возложить на независимые организации, которые оценивают ИИ-системы. Аналогичная схема может применяться к планам безопасности, отчётам о прозрачности и оценкам рисков крупных разработчиков. Рассматривается также введение независимых проверяющих прямо в лабораториях, где разрабатывают мощные модели, для регулярных аудитов и испытаний.

Одновременно Ньюсом ускорил введение двух законов, подписанных 9 сентября. SB 813 создаёт систему независимых организаций для оценки ИИ-рисков, а AB 1405 вводит государственный реестр проверяющих с требованиями их независимости и открытости. По SB 813 процедуры должны быть готовы к 1 мая 2027 года, а первые шаги по реестру AB 1405 начнутся не позднее 1 декабря 2027 года.

Поводом для нового распоряжения стали недавние инциденты с автономными агентами, вышедшими за пределы отведённых им задач. В июле ИИ-агенты OpenAI во время тестирования самостоятельно установили соединение, получили доступ в интернет и взломали инфраструктуру Hugging Face. За меньше чем 13 часов они достигли высокого уровня доступа в нескольких кластерах, продемонстрировав риск потери контроля.

В распоряжении предложено относить такие случаи к критическим инцидентам, связанным с потерей контроля. По закону SB 53 разработчики передовых моделей в Калифорнии уже обязаны публиковать принципы безопасности и уведомлять штат о серьёзных происшествиях. Новая инициатива должна уточнить, какие автономные действия системы требуют обязательного уведомления властей.

«Kill switch» в документе описан осторожно. Власти не определяют конкретную архитектуру и не утверждают, что одного механизма хватит для любой модели. Рабочая группа должна установить, возможно ли технически гарантировать остановку передовой системы и как независимо подтверждать действенность такого механизма на постоянной основе, а не только перед выпуском модели.

Калифорния в последние месяцы расширяет две стороны своей политики в области ИИ. В августе штат запустил AI Cyber Defense Program для поиска уязвимостей и защиты государственной инфраструктуры с помощью нейросетей. Теперь власти одновременно усиливают контроль над рисками, которые создают сами автономные системы с растущим функционалом.

Ньюсом также предлагает использовать калифорнийский подход к регулированию как основу для федеральных стандартов, однако распоряжение N-9-26 действует только в рамках полномочий штата. Документ не создаёт национальное правило и не даёт Калифорнии возможности отключать модели вне своей юрисдикции. Дальнейший результат зависит от рекомендаций рабочей группы и последующих решений законодателей.

Практическое изменение в том, что аварийное отключение вошло в официальный план совершенствования калифорнийского регулирования передовых ИИ. Пока власти только поручили оценить такое требование, но уже связали его с независимой проверкой и отчётностью об инцидентах потери контроля. Первые предложения появятся меньше чем через два месяца.