Описание: Вредоносное редактирование в Википедии просуществовало менее часа, но поисковой системе удалось принять недостоверную информацию за проверенный факт.
Вредоносная правка в Википедии на короткое время стала источником дезинформации для Google. Поисковая система отображала ложную информацию о смерти руководителя OpenAI Сэма Альтмана, и скриншоты этой ошибки быстро распространились в социальных сетях.
12 августа в информационной карточке поисковика появилась запись с указанием, что Альтман родился 22 апреля 1985 года и скончался 12 августа 2026 года. На самом деле руководитель OpenAI живой и здоров, но карточка Google содержала противоположные сведения.
В ответ на жалобы пользователей Google удалил некорректную информацию и объяснил, что сотрудники компании не редактировали запись самостоятельно. Представители поисковика указали на вандальные изменения в открытых источниках как на причину ошибки, отметив, что такие источники могут влиять на данные в поисковой выдаче.
На протяжении суток англоязычная статья об Альтмане на Википедии подвергалась 22 изменениям. Неизвестный автор внес в биографию ложное утверждение об убийстве главы OpenAI. Другие редакторы Википедии оперативно удаляли эту неверную информацию, однако вандалы повторно добавляли запись и вносили изменения в другие разделы страницы.
Представитель фонда Wikimedia сообщил, что добровольцы исправляли вредоносные изменения в течение от одной до 43 минут. После серии атак страница была переведена в режим ограниченного редактирования, который позволяет изменять содержимое только опытным и зарегистрированным пользователям.
Google генерирует информационные карточки в автоматическом режиме благодаря технологии «Граф знаний», которая агрегирует информацию из сотен открытых и лицензированных ресурсов. Хотя Википедия является одним из наиболее важных источников, Google также перекрестно проверяет данные, обращаясь к другим базам данных и веб-сайтам.
Сбой затронул стандартную информационную карточку Google, а не генеративный блок AI Overviews на основе искусственного интеллекта. Неточная информация попала в результаты не из-за самостоятельного вымысла нейросети, а из-за скомпрометированных исходных данных, которые автоматические системы проверки не успели отфильтровать. Даже быстро исправленная ошибка успела распространиться и стать убедительным результатом поиска.
