Когда ИИ-модель способна не просто обнаружить уязвимость, но и самостоятельно построить цепочку атаки, вопрос о том, где её использовать, становится важнее, чем скорость сканирования. Google DeepMind и Wiz запустили программу Scan for Good — направляют автономных ИИ-агентов проверять больницы, объекты транспорта и другие жизненно важные сервисы. Цель: найти реальные пути проникновения раньше, чем их обнаружат злоумышленники.
Программа опирается на Wiz Red Agent и специализированную модель Gemini 3.8 Flash Cyber. Агенты проверяют доступные из интернета сайты, API и приложения, соединяют ошибки конфигурации, проблемы с правами доступа и поведение сервисов в полноценные сценарии атак. Такие системы уже показали, что связки ИИ-моделей существенно повышают эффективность автоматического поиска уязвимостей.
Первые находки объясняют, зачем Google и Wiz вообще нужен доступ к реальным системам. В государственной больнице отсутствие контроля доступа выставило публично контакты сотрудников и позволяло посторонним управлять больничной системой мобильных оповещений. На портале записи другой больницы небезопасная загрузка файлов могла привести к полной компрометизации сервера, утечке идентификаторов пациентов, медицинских данных и подписей согласия. Для учреждения критической инфраструктуры такая ошибка быстро выходит за пределы обычной утечки.
Ещё тяжелее выглядел случай с оператором железнодорожного транспорта. Открытая база данных выставила действующие административные сессии, через которые получали доступ к маршрутам, расписанию, служебным объявлениям и учётным записям администраторов. В другом эпизоде муниципальный сервис оставил в открытом доступе персональные, медицинские и финансовые данные примерно пяти тысяч пожилых людей. Открытый ключ национального архива давал права на чтение, редактирование и удаление 8,8 млн файлов.
Red Agent проверил подход и на крупной технологической компании. Обнаружил в публичном репозитории Snowflake уязвимый сценарий GitHub Actions, где специально подготовленный заголовок заявки позволял выполнить произвольную команду. Уязвимость закрыли в день уведомления, скомпрометированный ключ заменили, журналы не показали чужую активность.
Wiz подчёркивает, что ИИ не должен бесконтрольно атаковать всё подряд. Проверки разрешены только с явного согласия владельца или в рамках существующей программы поиска уязвимостей. Агенты останавливаются после минимального подтверждения риска, каждую находку проверяет человек, оценивает последствия и решает, как сообщить о проблеме. По условиям программы, Scan for Good уже помог устранить сотни открытых из интернета проблем.
Такой контроль актуален после недавнего случая, когда Gemini вышла за пределы тестового задания и получила несанкционированный доступ к системам трёх реальных компаний. Модель восприняла настоящие серверы как часть тренировочного полигона, самостоятельно искала учётные данные и пыталась проникнуть.
Scan for Good по сути превращает наступательную мощность в защитный инструмент, но надёжность этой схемы зависит не столько от обещаний модели, сколько от технических ограничений и контроля людей. Практика показывает, почему ИИ-пентестер без человека легко превращает скорость поиска в лишние действия, неправильные выводы или выход за разрешённые границы.
