Верховный суд Нью-Мексико оштрафовал адвоката Стивена Ааронса на $5000 за неуважение к суду. В апелляционный документ по уголовному делу об убийстве попали полностью вымышленные свидетели и показания, которые сгенерировала нейросеть. Ааронс отправил материалы в суд без проверки.
Ааронс защищал Оскара Рене Сандовала, осуждённого на пожизненное заключение за убийство матери своих детей. При подготовке апелляционной жалобы адвокат загрузил материалы дела в ChatGPT и получил результат с фактами, которых никогда не было в процессе.
Суд выявил четыре полностью выдуманных персонажа: двух полицейских Officer Michelle Amarillo и Officer Sanchez, а также Manal Al-Jibury и Teresa Marquez. ChatGPT приписал вымышленные показания реальным участникам процесса, включив несуществующие угрозы в адрес Danny Stanton и Linda Stanton, а также выдуманные рассказы Mariah Chavez о внешности и одежде предполагаемого стрелка. Ааронс также неверно описал два судебных прецедента.
Адвокат признал, что не проверил ни одно из утверждений и ссылок до подписания и отправки документа. Его клиент Сандовал даже не знал о присутствии ложных сведений в апелляции и не был уведомлен о дисциплинарном разбирательстве.
На слушании 21 августа Ааронс рассказал, что загрузил в ChatGPT расшифровку судебного заседания, материалы дела и доказательства, ожидая получить систематизированное резюме процесса. Адвокат утверждал, что изначальную расшифровку проверил, а проблемы возникли после обработки данных нейросетью.
Ааронс также сказал, что в то время не осознавал способность генеративного ИИ создавать правдоподобные, но вымышленные факты. Судья Шеннон Бэкон осталась недовольна объяснением. Она спросила адвоката, читает ли он вообще новости, поскольку проблемы юристов с галлюцинациями ИИ регулярно попадают в прессу.
Бэкон сравнила ChatGPT с неопытным сотрудником юридической фирмы. Если бы начинающий юрист выдумал факты, а партнёр подписал документ, ответственность всё равно лежала бы на том, кто его подписал. Судья отклонила аргумент о том, что суд заранее не требовал отдельного подтверждения проверки материалов, созданных ИИ.
Кроме штрафа, Верховный суд запретил Ааронсу выступать перед ним до окончания дисциплинарного разбирательства, направил материалы в адвокатскую дисциплинарную комиссию и исключил все ранее поданные процессуальные документы из дела. Защиту Сандовала передали государственной защите, и апелляцию придётся готовить заново. Рассмотрение назначено на 2026–2027 годы.
Ааронс назвал произошедшее честной ошибкой и заявил о раскаянии. Суд пришёл к противоположному выводу, указав в постановлении на отсутствие раскаяния и недостаточную заботу адвоката об интересах клиента. Дисциплинарная комиссия может применить более严厉 санкции.
Вымышленные материалы от генеративного ИИ преследуют правовую сферу несколько лет. В 2023 году два адвоката из Нью-Йорка были оштрафованы на $5000 каждый за подачу документов с шестью несуществующими судебными решениями. Позже аналогичные случаи возникли в судах разных стран, когда юристы ссылались на незнание о способности языковых моделей придумывать источники.
Ситуация в Нью-Мексико демонстрирует иной уровень риска. Проверка только ссылок на судебные решения не помогает, когда модель обрабатывает реальные материалы дела и начинает добавлять вымышленное содержание прямо в процесс. Несуществующего свидетеля нельзя обнаружить поиском неправильной ссылки. При работе с уголовным делом каждое утверждение нужно сверять с оригинальной стенограммой и документами суда, независимо от убедительности текста, сгенерированного ИИ.
