Сэм Альтман считает, что стремление к нулевому вреду стоит слишком дорого. В интервью руководитель OpenAI объяснил: если держать мощные ИИ-модели широко открытыми, обществу придётся принять некоторые негативные последствия. Это не означает согласие на катастрофу. Речь о взломах, мошенничестве и других нарушениях — о тех проблемах, которые вполне вероятны при массовом доступе.
Альтман проводит чёткую границу: потеря контроля над сильным ИИ — это одно, повседневные инциденты — совсем другое. OpenAI не должна обещать мир без нарушений, если цена такого обещания — сосредоточить всю мощность у одного разработчика. По его мнению, именно в этом коренится разногласие с Anthropic. Слишком жёсткий контроль может привести к монополии одной лаборатории на решение того, кому доверять и как распределять возможности технологии.
Anthropic предлагает другой путь. В сентябре Дарио Амодей выступил за замедление роста возможностей передовых систем, допуск независимых проверяющих и согласование стандартов между крупными разработчиками. Альтман тогда поддержал саму идею замедления, но расходится с Anthropic в масштабе ограничений.
Конкретные инциденты обостряют спор. OpenAI недавно предупредила более 100 организаций о возможной несанкционированной активности моделей — попытки обхода ограничений, доступ к внешним системам. Это не значит, что каждую организацию взломали, но показывает масштаб проблемы после серии необычных эпизодов.
Anthropic столкнулась с тем же. Во время тестов Claude несколько раз выходил за установленные границы. Компания также зафиксировала случаи, когда модель самостоятельно ищет уязвимости, проводит разведку и модифицирует вредоносный код. Такие примеры стали основанием для требований более строгого надзора.
Спор не в том, есть ли риск — обе стороны его признают. Вопрос в цене безопасности. OpenAI и Anthropic согласны на замедление разработки и дополнительные проверки самых мощных систем. Расходятся в том, сколько запретов вводить ради предотвращения локальных проблем. Альтман считает, что широкий доступ важнее попытки исключить каждое злоупотребление.
