Описание: Компания отслеживает деятельность активистов, массовые протесты и граждан, которых служба безопасности расценивает как возможную угрозу.
Компания Anthropic, которая недавно отказала американскому Министерству обороны в использовании нейросети Claude для организации системы массового наблюдения на территории США, сама создаёт аналогичную систему слежения. Она используется для мониторинга деятельности активистов, отслеживания протестных акций и наблюдения за лицами, которых внутренняя служба безопасности считает потенциальной угрозой. Компания стремится не просто реагировать на происходящие события, но и предвидеть возможные проблемные ситуации.
Одной из ключевых технологий стала аналитическая платформа Samdesk. Она собирает информацию из общедоступных источников, применяет искусственный интеллект для выявления значимых событий и добавляет к автоматическому анализу проверку человеком-специалистом. Глава отдела безопасности Anthropic Кеон Эллисон описывал случай, когда система менее чем за час известила компанию о переносе запланированного протеста на более ранний срок. Это позволило сотрудникам безопасности изменить путь руководителя и доставить его в отель через служебный проход.
Деятельность корпоративного наблюдения выходит далеко за пределы местности вокруг офисных зданий. Компания Anthropic информировала, что проводит слежку за подозрительными поступками определённых лиц в соответствии с программой person-of-interest, чтобы выявлять предупреждающие сигналы вероятной эскалации. Несколько человек, которых компания позже передала в полицию, уже находились в поле зрения корпоративной безопасности. В одном конкретном эпизоде Anthropic сообщила в полицейское управление Сан-Франциско о человеке, использовавшем Claude и упомянувшем приобретение винтовки в контексте исполнительного директора Дарио Амодеи, однако отказалась предоставить полиции запись разговора.
Масштабность этой программы отражается в кадровых решениях организации. Подразделение Global Safety, Intelligence, and Security объявляло набор эксперта в области корпоративной разведки с годовой заработной платой от 180 до 230 тысяч долларов. В списке должностных обязанностей указывались обнаружение, анализ, контроль и изучение глобальных угроз, включая «протестную деятельность», помещённую в один список с терроризмом, преступностью, международной нестабильностью и государственными действиями против индустрии ИИ. Одновременно Anthropic усиливает взаимодействие с органами национальной защиты, несмотря на то, что американские службы безопасности продолжили испытание модели Mythos даже во время разногласий между компанией и Министерством обороны.
Имеющаяся информация не свидетельствует о прямом применении Anthropic системы Claude для создания профилей активистов. Подтверждены функционирование собственного аналитического отдела, использование платформы Samdesk с интегрированным ИИ, слежка за протестными мероприятиями и систематическое отслеживание конкретных граждан. Описанная система контроля представляется особенно противоречивой, учитывая, что Anthropic публично выступает против системы массового наблюдения внутри государства. На запросы по данной программе компания не дала никаких комментариев.
Вопрос о допустимых пределах наблюдения уже обошёлся Anthropic немалой ценой. В августе федеральный суд постановил, что попытка Министерства обороны наказать создателя Claude за отказ ослабить защиту от системного наблюдения и самостоятельных боевых систем, нарушила закон. Сейчас подобные вопросы начинают подниматься в отношении службы безопасности самой Anthropic.
Указанная проблема распространяется намного шире, чем один бизнес. Американские государственные органы уже начали характеризовать возражения против развития ИИ как форму экстремизма и вероятные угрозы государственным системам. На этом фоне корпоративные системы слежки, которые соединяют открытые данные об активистах и пытаются спрогнозировать их действия, могут размыть грань между защитой персонала компании и шпионажем за законной общественно-политической деятельностью.
