Генеративный ИИ выдумывает факты не только за адвокатов. Ошибки начали проникать в судебные решения, прокурорские документы и показания экспертов. Американские суды наказывают юристов за непроверенные ответы нейросетей уже третий год, но поток галлюцинаций только растёт.

В сентябре в США произошло сразу три показательных случая. В Нью-Мексико адвокат подал апелляцию по убийству с несуществующими свидетелями и выдуманными показаниями полиции. Судья в Оклахоме Лоуренс Уилер признался, что использовал ChatGPT для исследования и вписал в постановление ссылки на два дела, которых не было. Юриста State Farm в Калифорнии оштрафовали за ошибочные ссылки и цитаты в семи документах. Выдуманные свидетели показали, что проблема уже вышла за границы обычных ошибок в названиях дел.

По данным базы судебных случаев исследователя Дамьена Шарлотена, на 14 сентября 2026 года было 2041 дело по миру, включая 1395 в США. База отмечает 32 случая, где ИИ использовали судьи, 5 с прокурорами и 15 с экспертами. Самая частая ошибка — выдуманные судебные прецеденты, но встречаются и ложные цитаты, искажённое содержание реальных решений, сфабрикованные материалы дела.

Языковая модель строит правдоподобный ответ по статистическим закономерностям. Она может уверенно вставить несуществующее дело, цитату или факт. Для суда это особенно опасно: выдуманная ссылка выглядит как обычный юридический источник и легко попадает в документ, если человек не сверяет первоисточник.

Первый громкий случай в США закончился штрафами в 2023 году. Два нью-йоркских адвоката использовали ChatGPT и сослались на шесть вымышленных решений. Суд наложил штраф по $5000 на каждого. Спустя три года похожие истории не исчезли — участников стало больше.

Марк Маккенна из UCLA называет гонку юридических фирм за внедрением ИИ одной из причин. Давление сроков и маркетинг, который смягчает разговор о рисках, подталкивают к экономии на проверке. Нейросеть быстро разбирает массив документов, но когда скорость становится приоритетом, проверка превращается в опциональный этап.

Ошибки внутри самих судов особенно чувствительны. В Миссисипи помощник федерального судьи использовал Perplexity при подготовке постановления. В тексте обнаружили несуществующие имена и правовые основания. Дело дошло до апелляции, власти штата потребовали передать его другому судье. Такой же вопрос о границах автоматизации встаёт там, где ИИ уже внедряют в суды как рабочий инструмент.

Штрафы одни оказались недостаточны. Судебная система находит часть ошибок через проверку другой стороной и самим судьёй, но эпизоды множатся. Санкции варьируются от предупреждений и денежных взысканий до передачи материалов в дисциплинарные органы. Когда ложный факт уже в судебном постановлении, независимого фильтра может не быть.

В Великобритании суды предупредили: несуществующие ссылки из генеративного ИИ могут закончиться не только профессиональными санкциями. Юристам может грозить ответственность за неуважение к суду. При серьёзных обстоятельствах возможны и более жёсткие последствия.

Появилась и обратная угроза. Участники процесса пытаются воздействовать на ИИ, которым пользуется суд. В США разбирали случай со скрытой промпт-инъекцией в судебном документе, рассчитанной на автоматическую проверку материалов нейросетью.

Суды готовятся к ещё одному классу проблем с доказательствами, созданными ИИ. Американская судебная система обсуждает, как проверять дипфейк-доказательства, чтобы генеративные технологии не превратили проверку фактов в отдельный процесс внутри каждого дела.