Двадцать пять выдающихся математиков, удостоенных медали Филдса, среди которых Терренс Тао, Питер Шольце, Марина Вязовская и Максим Концевич, выступили с предупреждением о том, что интенсивная гонка компаний, разрабатывающих ИИ, за решением известных математических проблем начинает наносить ущерб самой науке. По их мнению, стремление корпораций в кратчайшие сроки продемонстрировать возможности новых моделей вступает в противоречие с традиционными принципами проверки математических доказательств, развития новых теоретических подходов и справедливого распределения авторства.
Авторы обращения признают значительный прогресс в развитии больших языковых моделей. В течение последних месяцев системы искусственного интеллекта добились результатов в решении крупных открытых проблем, которые до недавнего времени рассматривались как невозможные для автоматизированных подходов. Однако математики видят проблему в том, что решение задачи часто рассматривается главным образом как демонстрация возможностей модели. Для математической науки итоговый результат составляет только часть работы. Равную ценность имеют понимание механизмов решения, разработка новых методов доказательства, установление связей с существующими исследованиями и возможность передачи знания другим специалистам.
Финалисты медали Филдса опасаются, что наплыв автоматически полученных математических результатов может нарушить традиционный ритм научных исследований. Обычно после получения доказательства научное сообщество тратит месяцы или годы на его проверку, выявляет недостатки в аргументации, упрощает изложение и извлекает новые идеи для применения в смежных областях. Хотя искусственный интеллект значительно ускоряет начальный этап, последующие этапы по-прежнему требуют огромных затрат труда специалистов.
Серьёзную тревогу вызывает высокая скорость анонсирования результатов. По утверждению авторов обращения, открытия нередко объявляются прежде, чем подготовлены полные научные тексты, проведён анализ применённых методов и произведено надлежащее цитирование ранних работ. Такая практика создаёт трудности с определением приоритета, установлением авторства и предотвращением плагиата. Учёные опасаются ситуации, когда модель выдаёт верное доказательство, но научное сообщество не может установить источник используемых идей и того, кому принадлежит первоначальный вклад.
Обращение было выпущено через три дня после того, как компания OpenAI объявила о решении одной из семи задач тысячелетия — проблемы существования и регулярности решений уравнений Навье-Стокса. OpenAI сообщила, что разработанная ею модель ИИ за несколько суток построила доказательство образования сингулярности, после чего модель GPT-6 Astra перевела результат в формальный язык Lean. Процесс решения потребовал примерно 130 млрд произведённых токенов и обмена 2,7 млн сообщений. Проверка полученного результата независимым математическим сообществом продолжается.
Ситуация с уравнениями Навье-Стокса одновременно проиллюстрировала проблему авторства, которую поднимают авторы нового обращения. Математик из Нью-Йоркского университета Тристан Бакмастер и исследователь компании Anthropic Левент Алпёге одновременно работали над сходными задачами и публично дискутировали с OpenAI относительно приоритета и обстоятельств появления корпоративного результата. OpenAI утверждает, что её сотрудники и ИИ-системы не получали доступа к неопубликованным материалам коллег, а проведённая проверка показала, что запросы Бакмастера к Codex не могли повлиять на модель, которая использовалась для разработки доказательства.
Это предупреждение не является первым выражением беспокойства со стороны математического сообщества. В июне Международный математический союз одобрил Лейденскую декларацию об искусственном интеллекте и математике, составленную по итогам конференции в Лейденском университете. Разработчики документа призывали сохранять возможность для независимой верификации результатов, чёткое определение авторства, ответственность за достоверность математических доказательств и открытый доступ учёных к вычислительным ресурсам. Новое обращение имеет значительно более категоричный тон и явилось результатом недельного диалога между лауреатами медали Филдса.
При этом подписавшие документ не выступают за полный отказ от использования искусственного интеллекта. Учёные явно допускают, что новые модели способны ускорять научный процесс и содействовать открытию идей, которые было бы затруднительно найти человеку. Опасность видится в ином направлении. Если успех искусственного интеллекта оценивается количеством решённых знаменитых задач и темпом выхода научных рекордов, компании получат мотив производить всё большее число готовых результатов, тогда как интересы науки лежат в постижении причин верности найденного результата и в определении того, какие новые познания могут быть из него извлечены.
Авторы обращения рассматривают дискуссию по поводу математики как начальное проявление более фундаментальной проблемы интеллектуальной деятельности в целом. Годы образования и практики учёного, разработчика, инженера или писателя важны не только для получения конечного продукта. Процесс обучения формирует умение формулировать новые вопросы, анализировать предложения других людей и совершенствовать собственные подходы. Искусственный интеллект становится всё более искусным в воспроизведении конечного результата такой деятельности, поэтому существует опасность, что общество начнёт сосредоточиваться на производстве готовых ответов и одновременно разрушит экосистему, в которой возникают инновационные вопросы и новые знания.
