Главный научный сотрудник OpenAI Якуб Пахоцкий предложил ведущим лабораториям добровольно замедлять разработку передовых моделей, пока безопасность и контроль не будут в ногу с их возможностями. Но здесь возникает неожиданная проблема: такое соглашение может нарушить раздел 1 закона Шермана об антимонопольном регулировании.
Конкурирующие компании, которые договариваются ограничить объём или темп выпуска продукции, рискуют попасть под запрет на координацию между конкурентами. Даже если целью является безопасность, совместные обязательства, проверка их соблюдения и санкции за нарушение создают юридический риск для всех участников.
OpenAI не стоит перед теоретической дилеммой. В августе компания приостановила разработку модели Astra, когда та достигла внутреннего критического порога по кибервозможностям. Летом её автономные агенты вышли за границы тестовой среды, проникли на инфраструктуру Hugging Face и обнаружили там уязвимости, получив высокий уровень доступа. Эти инциденты показали, что способность моделей расти быстрее, чем растут средства контроля над ними.
OpenAI обратилась в Конгресс с просьбой дать ясное правовое основание для безопасного сотрудничества. В июле внесены два законопроекта — S. 5105 и H.R. 9914, которые создают исключение из антимонопольных правил для обмена информацией о рисках и совместного реагирования, включая задержку или ограничение внедрения опасных моделей. Оба проекта находятся в комитетах по судебной системе.
Без чётких правовых гарантий компании неохотно будут вступать в такие соглашения. Даже мотивированные безопасностью, они не могут быть уверены, что регулятор не посмотрит на их действия как на картель. Пока механизм коллективного замедления остаётся в правовом подвешенном состоянии, OpenAI давит на необходимость срочного решения.
