Современные компьютерные системы давно овладели функциями, которые ранее могли выполнять только люди: составление связных текстов, анализ визуальной информации, ответы на сложные вопросы и выявление скрытых закономерностей в больших наборах данных. Вместе с расширением этих возможностей в повседневное общение пришли традиционно человеческие слова. Теперь говорят, что машины «размышляют», «воспринимают информацию», «создают», «развиваются» и «осознают». Специалисты по истории компьютеров проанализировали эволюцию такой терминологии с 1950-х годов и установили, что подобные выражения часто наделяют компьютеры человеческими качествами, которые несовместимы с их реальным функционированием.

Эта проблема существует намного дольше, чем современные системы глубокого обучения. Уже в середине прошлого столетия специалисты употребляли для описания машинных операций лексику, исторически принадлежавшую только человеку. Для техника слово «развитие» означало четкий процесс: программа применяет установленные инструкции, сопоставляет итоги и повторяет действия, дающие положительный результат. Среднестатистический человек наделяет развитие намного более глубоким содержанием: накопление практического опыта, осознание неизведанного, исправление недочетов и трансформация собственной позиции.

Граница между этими двумя интерпретациями постепенно стиралась. Ученые называют это явление намеренной неоднозначностью. Одна и та же лексика остается технически прозрачной для профессионалов, но одновременно вызывает у неспециалистов образы человеческого интеллекта. При этом обман необязателен. Лаконичное выражение просто практичнее развернутого объяснения программного алгоритма, и со временем иносказание начинает восприниматься почти реально.

Яркая иллюстрация найдется в трудах Норберта Винера, создателя кибернетики. Винер применял термин «обучение» в отношении к компьютерам, когда аппарат менял алгоритм действий согласно установленным параметрам и достигал улучшенного результата. Его научное окружение улавливало техническое содержание. Вне профессиональной среды этот термин неминуемо напоминал об обучении человека со всеми сопутствующими ему познавательными процессами, воспоминаниями и умениями.

Сегодняшний ИИ обострил давнюю языковую трудность. Текстовые нейронные сети «сочиняют» ответы, графические генераторы «живописуют», поиск «интерпретирует» запрос, а продвинутые системы якобы «размышляют» перед формированием итога. Такие выражения удобны, однако всякий глагол приносит в описание программы часть смысла, связанного с осознанным поступком человека.

Более точный анализ раскрывает совсем другой процесс. Языковая сеть получает стартовые параметры и вычисляет оптимальный контекст, учитывая закономерности, обнаруженные в ходе подготовки. Графический генератор трансформирует текстовое задание в совокупность внутренних конструкций и постепенно конструирует образ, отвечающий данному описанию. Впечатляющие результаты не предполагают наличие человеческого способа интеллектуальной обработки.

Это различие становится особенно явным у графических генераторов. Пользователь может попросить изобразить пса, сидящего на лошади во время шествия спортивной команды New York Mets, и получить похожую сцену. Действительно, результат сложный: машина должна объединить несколько субъектов, понять их пространственные отношения, учесть праздничный антураж и составить все части в цельный рисунок.

Исследователи предлагают классифицировать такой результат как техническое достижение, не приравнивая автоматически генерирование к творчеству человека. Человеческое творчество формируется под воздействием жизненного пути, состояния, целей, впечатлений и социального контекста. Генеративная сеть работает с численными кодами и вероятностными связями внутри информации. Одинаковый результат (текст или изображение) не говорит о сходстве внутренних операций.

Такой же вопрос встает и при оценке умственных способностей нейросетей. Для проверки систем используют унифицированные наборы заданий, среди которых MMLU, экзамен на знание языка по большому числу сфер, и более новый тест «Последний экзамен человечества». Машины получают вопросы из различных наук и подсчитывают процент верных решений.

Хороший результат часто переводится в заявление, что сеть «осведомлена», «постигает» или «рассуждает» на конкретном уровне. Сам экзамен измеряет гораздо более специфичный показатель: как часто сеть приводит или выявляет верный ответ в установленной совокупности заданий. Такое испытание пригодно для сравнения моделей, но лишь по себе не доказывает существование человеческого понимания.

Человеческое понимание превосходит простую способность точно ответить на вопрос на экзамене. Люди объединяют новые факты с перенесенным опытом, пересматривают позиции, анализируют результаты решений и применяют навыки в обстоятельствах, значительно отличающихся от школьного упражнения. Тестирование машины не охватывает все эти этапы.

При восприятии информации возникает сравнимая несоответствие. Машина может разобрать поэму, определить её смысл, увидеть рифму, проанализировать организацию и предоставить полный комментарий. Человек может воспринимать то же сочинение ради самого творца. Влияние имеют данные о жизни творца, историческая ситуация, чувства, манера исполнения и причины возникновения произведения.

Если судить о создании текста, восприятии информации и художественности только по итоговому результату, своеобразность неприметно уходит из беседы. Нейросеть создала логичный текст, значит «написала». Дала точный ответ, значит «разбирается». Разрешила непростую задачу, значит «уяснила». Лексика незамеченно трансформирует инструмент вычисления в гипотетического конкурента человека и одновременно снижает ценность собственно человеческих качеств.

История компьютеризации свидетельствует, что прежние дискуссии о роли машин включали множество направлений. В середине прошлого века попытку обсудить возможности и пределы компьютеров предпринимали инженеры, учёные разных профилей, специалисты по поведению, историки и филологи. Общество ещё не имело однозначного решения, какие функции возможно передать аппаратам, кто должен наблюдать за системами и какую роль занимает техника в обыденной практике.

Сегодняшние системы обострили прежние дилеммы. Программные системы и численные подходы требуют чётких формулировок, тогда как обычная речь позволяет несколько толкований одного выражения. Специалист может применить слово в узком техническом значении, а посторонний поймёт ту же фразу совершенно по-другому.

Поэтому терминология воздействует на оценку дел ИИ. Выражение «обучение» может символизировать математическое изменение показателей системы, но в повседневном языке связано с получением знаний человеком. «Понимание» может значить удачную интерпретацию просьбы, хотя для личности включает постижение содержания и окружающей ситуации. «Размышление» нередко используют для обозначения цепочки вычислительных манипуляций, хотя человеческое размышление охватывает обширный ряд мыслительных действий.

Авторы исследования не стремятся преуменьшить достижения нынешних систем. Они предлагают более корректно обозначать происходящие процессы. Нейросеть создаёт тексты, систематизирует информацию, подбирает решения, конструирует образы и исполняет распоряжения. Такой стиль обозначения даёт возможность обсуждать действительные умения систем без автоматического переноса на вычислительные машины качеств человеческого ума.