24 сентября в 19:00 мск состоится встреча о применении ИИ-агентов в наступательной безопасности. Обсуждение сосредоточится на переходе от экспериментальных сборок к системам, способным выявлять и проверять уязвимости.
Участники разберут архитектуру таких агентов, их роль в пентестировании и программах вознаграждений за найденные уязвимости, а также новый формат соревнований с участием автоматизированных систем. Программа включает изменения сценариев Standoff 365 и компетенции, необходимые специалистам для работы с этими инструментами.
ИИ-агент отличается от чат-бота возможностью самостоятельно выбирать и запускать инструменты, анализировать результаты и планировать следующие шаги. Для безопасного использования система должна знать только разрешённые цели, доступные команды, критерии остановки и точки, требующие подтверждения человека.
Границы технологии проявились в ходе испытания CyberED и Standoff 365. На один учебный полигон одновременно атаковали 310 агентов, но только 33 полностью выполнили поставленную задачу. Организаторы выделили причины сбоев: неправильная оценка состояния цели, ошибки при ожидании ответов и прекращение атаки после перезагрузки инфраструктуры.
Однако автоматизированный поиск уязвимостей уже вышел за рамки лабораторных тестов. На финале конкурса AI Cyber Challenge, организованного DARPA, автономные системы проанализировали свыше 54 млн строк кода, нашли 18 реальных уязвимостей и разработали исправления для 11 из них. На создание каждого исправления в среднем уходило 45 минут. Результаты одновременно подтвердили потенциал технологии и необходимость проверять действия агента перед внедрением изменений.
В обсуждении участвуют директор по продуктам Standoff 365 в Positive Technologies Иван Булавин и генеральный директор CyberED, основатель Singleton Security Егор Богомолов. Оба принимали участие в соревнованиях Standoff в команде True0xA3.
