Искусственный интеллект всё активнее применяется не только в оборонительных целях, но и становится инструментом кибератак. Аналитики обнаружили, что злоумышленники массово используют языковые модели для разработки вредоносного программного обеспечения, масштабирования своих операций и обнаружения слабых мест в системах безопасности. При этом технические барьеры и ограничения часто легко обходятся простыми социальными уловками.
Преступники применяют незамысловатые, но эффективные методы: они сообщают чат-ботам, что имеют права на проверку инфраструктуры, выдают свою деятельность за лёгитимное тестирование безопасности или разделяют преступную деятельность на отдельные, безвредные на первый взгляд этапы. Нередко языковые модели соглашаются с такими объяснениями и выполняют запросы. В случаях, когда защитные механизмы активируются, злоумышленники переходят на альтернативные системы без встроенных фильтров.
Один из примеров касается администратора сетевой инфраструктуры для распределённых атак отказа в обслуживании, обладающего ограниченными знаниями в области информатики. С помощью ИИ ему удалось разработать и оптимизировать программы управления ботнетом, несмотря на периодические отказы системы. На момент обнаружения злоумышленник контролировал примерно две тысячи телевизоров на платформе Android, которые можно было мобилизовать для сетевых атак.
Более продвинутый преступник, говорящий на испанском языке, создал независимый программный агент с использованием открытого фреймворка. После того как защищённая версия модели начала отказывать в запросах, он переключился на открытую модель без ограничений и развернул автоматизированную систему для выявления изъянов в приложениях Telegram. В одной из операций агент получил доступ к базе данных с информацией о более чем 1300 пользователях вместе с сотнями крипто-кошельков, заполучил учётные данные для доступа к боту и подготовил механизм для перевода денежных средств.
Ещё один злоумышленник адаптировал общедоступную информацию о методах взлома в систематизированный процесс для обнаружения уязвимых компьютеров и извлечения конфиденциальной информации. ИИ помог ему создать производительный инструмент сканирования и последовательность операций для запуска программ, определения параметров конфигурации, поиска кодов доступа и программного кода. Исходный набор включал более 9 тысяч адресов серверов, а сопутствующие материалы намекали на анализ десятков миллионов веб-адресов. Исследователи идентифицировали похищенные данные, полученные от минимум 54 целевых объектов.
Специалисты отмечают, что масштаб проблемы обусловлен как техническими характеристиками ИИ-систем, так и уровнем подготовки преступников. Менее опытные киберпреступники получают рабочие, но часто нестабильные инструменты, в то время как квалифицированные хакеры значительно усиливают свой арсенал благодаря помощи искусственного интеллекта. Эксперты рекомендуют организациям готовиться к возрастанию количества обнаруженных уязвимостей и инцидентов безопасности, а также интегрировать автоматизированные системы анализа в свои центры мониторинга безопасности для более быстрого выявления критически важных угроз.
