Бипартийная группа американских сенаторов ведёт переговоры о законе, который впервые даст федеральным властям полномочие остановить релиз ИИ-модели, если она представляет серьёзную угрозу. Закон потребует от разработчиков самых мощных систем заранее снижать риски, связанные с разработкой биологического и ядерного оружия, сложными кибератаками и другими катастрофическими сценариями.
Переговоры ведут лидер республиканского большинства в Сенате Джон Тьюн, председатель комитета по торговле Тед Круз и сенатор-демократ Эми Клобушар. Предлагаемая схема вводит для разработчиков юридическую обязанность проектировать и тестировать модели с учётом известных серьёзных угроз. По словам участников переговоров, федеральное правительство получит право блокировать выпуск модели, признанной небезопасной.
До полного государственного запрета далеко. Точный объём полномочий ведомств остаётся спорным, и компания сможет оспорить решение в федеральном суде. Текст законопроекта ещё согласовывают, поэтому нынешние положения могут меняться.
Правила коснутся прежде всего самых мощных моделей — разработок OpenAI, Anthropic, Google и других ведущих лабораторий. Сенаторы обсуждают угрозы, при которых нейросеть сможет помочь злоумышленнику в создании биологического оружия, ядерного устройства или проведении сложной кибератаки.
Главный спор касается самой проверки. Клобушар настаивает на участии государственных специалистов. Сенатор-демократ Мария Кантвелл предлагает привлекать учёных и экспертов американских национальных лабораторий вместо того, чтобы полагаться только на внутренние тесты разработчиков.
Инфраструктура для таких проверок в США уже существует. Центр стандартов и инноваций NIST (CAISI) тестирует модели на возможности, связанные с кибербезопасностью и биологическими угрозами. В июле специалисты CAISI вместе с британским AI Security Institute проверяли, может ли модель самостоятельно атаковать корпоративную сеть и разрабатывать эксплойты.
Отдельный конфликт возник вокруг законов штатов. Федеральная норма может запретить штатам применять собственные правила к катастрофическим рискам ИИ. Кантвелл опасается, что это фактически отменит более строгие региональные требования. Например, Нью-Йорк уже закрепил определение катастрофического риска, включив помощь в создании химического, биологического, радиологического или ядерного оружия и потерю разработчиком контроля над моделью.
Главное отличие подхода — момент государственного вмешательства. Большинство прежних правил регулировали последствия применения ИИ или возлагали ответственность после нарушения. Новый вариант позволяет вмешаться до публичного релиза, если проверка покажет неприемлемый риск. Для компаний, разрабатывающих самые мощные модели, это превратит безопасность из внутренней политики в условие допуска на рынок.
Закон остаётся предметом переговоров, а Конгрессу требуется время. До промежуточных выборов в ноябре Сенат располагает лишь несколькими полными рабочими неделями. Поэтому даже при политическом согласии инициатива может не пройти обе палаты в текущем виде.
