Весной 2026 года Пентагон готовился к перехвату китайского судна на Ближнем Востоке. Разведывательный доклад утверждал, что корабль везёт компоненты для ядерного оружия. Операцию свернули в последний момент: ключевой вывод доклада оказался ошибкой ИИ-чатбота.
Подготовка зашла далеко. Вооружённые военнослужащие готовились взойти на борт судна. Самолёты уже были в воздухе. Остановили операцию только после перепроверки разведданных.
Доклад написал аналитик спецоперативного командования США. Для анализа груза он использовал ИИ-чатбот, который объединял открытую информацию с закрытыми данными радиоэлектронной разведки. Система ошибочно определила груз. Ложная информация попала в документ, который распространили среди военных структур.
Что точно везло судно, неизвестно. Один из источников CNN назвал доклад полностью ложным и сказал, что ошибка едва не привела к войне.
Инцидент произошёл во время боевых действий США с Ираном, когда информация о ядерных компонентах вызывала мгновенную реакцию. Вооружённый перехват китайского судна мог спровоцировать прямое столкновение между США и Китаем.
Опасность здесь не в ИИ, принявшем решение начать войну. Она прозаичнее: чатбот ошибся при анализе данных, аналитик пропустил ошибку, а документ поднялся достаточно высоко по иерархии, чтобы военные начали реальную операцию.
Американские военные и разведслужбы активно внедряют ИИ для обработки больших объёмов данных, выбора целей, логистики и бюджетирования. Но единого порядка проверки материалов, подготовленных генеративным ИИ, нет. Разные подразделения используют разные системы контроля.
Особенно опасно применение таких инструментов при выборе целей и подготовке операций. Неправильно распознанный объект или неверно объединённые данные могут быстро перейти из текста в приказ людям с оружием. В разведсообществе США уже встречались похожие ошибки ИИ.
Подробности основаны на рассказах анонимных источников. Пентагон не опубликовал разбор инцидента. Модель ИИ, исходные запросы и точная причина ошибки остаются неизвестными. Но история показывает главное слабое место военного ИИ: чем быстрее автоматизированный анализ проходит по цепочке решений, тем дороже обходится пропущенная проверка.
