В Бразилии 36-летнего фермера задержали после того, как OpenAI выявила в его переписке с ChatGPT упоминания о возможном убийстве восьмилетнего сына. Компания передала переписку в ФБР, которое связалось с бразильскими правоохранительными органами. Арест произошел через несколько дней после уведомления.
На протяжении почти двух месяцев фермер обсуждал с чат-ботом насилие и нападения. Следователи штата Эспириту-Санту рассмотрели его запросы об убийстве сына, атаках на школы и церкви, поиск информации о токсичных веществах. Когда защитные механизмы ChatGPT отказывали отвечать, мужчина пытался переформулировать вопросы. Полиция предположила, что конфликт с сыном мог быть связан с алиментами, хотя сам фермер отрицает намерение причинить вред.
Данные попали к бразильским властям 16 июня. OpenAI уведомила ФБР, а та передала информацию подразделению CyberLab Министерства юстиции Бразилии. Задержание произошло 19 июня в муниципалитете Сан-Габриэл-да-Палья. Следователи спешили: они полагали, что нападение могло произойти уже 20 июня.
При обыске найдены четыре бутылки с неустановленными веществами и веревка с петлей. Полиция изучает телефон мужчины и проверяет, предпринимал ли он конкретные действия. Одна из проверок касается заявления о контакте с наемным убийцей — именно реальные шаги могут стать доказательством преступления.
Фермер провел под стражей 54 дня и вышел 13 августа. Обвинения ему не предъявлены, следствие продолжается. Суд обязал его носить электронный браслет и запретил контактировать с сыном и матерью ребенка. Его адвокаты настаивают, что разговоры с чат-ботом сами по себе не доказывают намерение совершить преступление.
Возникла процессуальная проблема. OpenAI передала только сообщения пользователя, но не ответы ChatGPT. Адвокат Маира Фернандес считает это неполным доказательством: без ответов системы трудно восстановить контекст и понять развитие диалога. Суду нужно будет отделять реальную подготовку преступления от фантазий и провокационных запросов к искусственному интеллекту.
OpenAI подтверждает, что обращение в полицию — часть её системы безопасности. Компания анализирует потенциально опасные разговоры и передает серьезные случаи специальной команде. Если специалисты выявляют достоверную и непосредственную угрозу, OpenAI может сообщить правоохранительным органам. Это не автоматическая отправка каждого подозрительного запроса, а процедура оценки риска с участием людей.
Дело поднимает вопросы приватности. Пользователь видит окно ChatGPT как приватный диалог с машиной, но переписка находится на серверах компании, проходит автоматические проверки и в отдельных случаях попадает к сотрудникам и внешним подрядчикам.
Бразильское дело проверяет две границы. Первая лежит между приватностью пользователя и обязанностью платформы предотвратить насилие. Вторая отделяет тревожный текст в окне чат-бота от действий, за которые можно привлечь человека к уголовной ответственности. Со второй границей у следователей остаются проблемы.
