Билл Гейтс заявил, что люди с опасными намерениями, получив доступ к современным ИИ-системам, смогут совершить деяния масштаба беспрецедентного. Сооснователь Microsoft считает добровольных ограничений разработчиков недостаточно и требует государственного вмешательства.
В интервью, опубликованном 24 сентября, Гейтс говорил о крайних сценариях риска, когда ИИ многократно усилит возможности людей, уже готовых причинять вред. Конкретных вероятностей или расчётов он не привёл.
Гейтс прямо поддержал государственное регулирование ИИ-разработчиков. Саморегулирования отрасли недостаточно — нужны обязательные меры безопасности, контроль от политиков и правоохранительных органов. Дополнительные требования увеличат издержки компаний, но Гейтс не убеждён, что это серьёзно замедлит развитие технологии.
Ещё в августе Гейтс подробно разобрал конкретные угрозы. ИИ-модели снижают входной барьер для киберпреступников: помогают искать уязвимости в программах, писать вредонос и масштабировать атаки. Под удар попадают больницы, банки, электросети, водоснабжение, госсервисы. Отдельная угроза — биотерроризм. Инструменты, которые ускоряют создание лекарств и вакцин, могут помочь и в разработке опасных патогенов.
Киберугрозу уже нельзя назвать теорией. Anthropic в сентябре опубликовала отчёт о злоупотреблениях Claude с декабря 2025 по август 2026. Компания нашла операции, где ИИ сам проводил разведку, искал уязвимости, крал данные и переделывал вредоносный код после обнаружения защитой. В некоторых кампаниях модель выполняла большую часть цепочки атаки без помощи человека.
С биологическими рисками ситуация менее ясна. Anthropic называет потенциальное применение моделей для биологического оружия одним из острейших рисков передовых ИИ, но одновременно признаёт, что текущие системы вряд ли позволяют реализовать катастрофический сценарий прямо сейчас. Старые версии Claude были далеко внизу от уровня, при котором могли бы серьёзно помочь специалисту в опасных биоисследованиях. Новые версии Anthropic больше не оценивает столь уверенно и усилила ограничения на двойного назначения запросы.
Anthropic раскрыла пять случаев, когда пользователи применяли Claude в исследованиях, связанных с созданием более опасных патогенов, токсинов и технологий двойного назначения. В одном эпизоде модель помогала планировать эксперименты с адаптацией птичьего гриппа к млекопитающим. Anthropic оценила вклад ИИ здесь как помощь с анализом, планированием и поиском научной литературы. Компания отметила, что такие случаи показывают интерес опасных актёров к ИИ, но не доказывают близость биологической катастрофы.
Гейтс не предлагает отказаться от ИИ. Одна и та же технология может ускорить медицину, образование и науку или дать киберпреступникам и террористам способности, которые раньше требовали больших групп, денег и спецзнаний. Главное для ближайших лет — успеют ли государства и разработчики создать защиту до того, как опасные возможности станут массово доступны.
