Апелляционный суд США округа Колумбия двумя голосами против одного подтвердил право Пентагона исключить Anthropic из своей цепочки поставок. Причиной стал отказ компании снять ограничения на применение Claude в полностью автономном оружии и массовой слежке.
Конфликт разразился после переговоров между Пентагоном и разработчиком. Военные требовали разрешить использование Claude «для любых законных целей». Anthropic согласилась значительно расширить доступ, но оставила два запрета: модель нельзя применять в системах массового наблюдения за американцами и в оружии, которое самостоятельно выбирает и уничтожает цели без участия человека.
Большинство судей посчитало действия Пентагона законными. По мнению коллегии, встроенные ограничения Claude могут привести к отказу системы именно когда она нужна военным. В судебных материалах описаны случаи, когда модель отказывалась выполнять разрешённые государственные задачи. Возник также спор о применении Claude во время секретной зарубежной операции.
Суд отклонил возражение Anthropic о том, что компанию наказали за открытую позицию по безопасности ИИ. Судьи пришли к выводу, что конфликт возник из-за отказа принять необходимое Пентагону условие, а не из-за публичных заявлений разработчика. Один из трёх судей несогласен: по его мнению, закон о рисках цепочки поставок не должен применяться к явно объявленным ограничениям продукта.
В августе федеральный суд Калифорнии принял противоположное решение по аналогичному делу. Судья Рита Лин заблокировала общегосударственный запрет на продукты Anthropic и требование военных подрядчиков прекратить с компанией сотрудничество.
Апелляционная коллегия в Вашингтоне рассматривала другое правовое основание. В решении указано, что Пентагон вправе исключить Claude из цепочки поставок, поскольку ведомство не обязано работать с системой, которая может отказать в критический момент. Пентагон уже несколько месяцев ищет альтернативы и развивает сотрудничество с другими компаниями.
Anthropic не согласна с выводами суда и рассматривает возможность обжалования, включая пересмотр дела полным составом апелляционного суда. Компания утверждает, что статус риска привёл к потерям бизнеса на миллиарды долларов и повредил репутации.
Полностью избавиться от технологий Anthropic американским силовым структурам сложнее, чем кажется. В августе выяснилось, что АНБ продолжало тестировать продукты компании даже на фоне попыток Пентагона вытеснить их из военной инфраструктуры.
Тем временем Claude развивается в направлении, которое настораживает саму Anthropic. Компания недавно описала кибератаки, где человек лишь выбирал цель, а модель самостоятельно проводила разведку, находила уязвимости и осуществляла остальные этапы операции.
Вокруг массового наблюдения тоже развивается спор. Исследования показывают, что ИИ способен резко снизить затраты на обработку больших объёмов данных о людях и превратить государственную слежку в задачу, требующую гораздо меньше аналитиков.
