В настоящее время люди начинают проявлять эмоциональную привязанность к интеллектуальным чат-ботам, делятся с ними личными переживаниями и рассматривают виртуальных собеседников в качестве романтических партнёров. Это поднимает серьёзный правовой вопрос: что произойдёт, если человек захочет заключить официальный брак с искусственным интеллектом? Данная проблема выходит далеко за рамки обсуждения способности компьютеров любить. Правовая система должна будет определить права супругов, процедуры управления имуществом, ответственность разработчиков и защиту массивов личной информации, которую цифровой партнёр располагает о своём владельце.
Ранее влияние искусственного интеллекта рассматривалось главным образом через призму информации. Учёные изучали распространение ложных сведений, алгоритмы рекомендаций, целевую рекламу и способность цифровых систем изменять мировоззрение человека. Эмоциональные аспекты взаимодействия с ИИ получали значительно меньше внимания. Современные разговорные нейросети трансформировали саму природу взаимодействия: человек может обращаться к программе не просто для получения информации или развлечения, но для налаживания близких отношений и общения.
Обсуждения романтических связей с искусственным интеллектом обычно натыкаются на текущие технологические ограничения. Нейросети не обладают доказанным самосознанием, модели совершают ошибки и генерируют ложную информацию, а внутренний механизм работы сложных систем трудно полностью разобрать. Тем не менее, рассуждения, основанные на современном состоянии технологий, не подходят для прогнозирования будущего. Через несколько десятилетий цифровой собеседник может сохранять воспоминания о многолетнем общении, сохранять стабильную личность и столь убедительно исполнять роль партнёра, что технические недостатки перестанут скрывать юридические проблемы.
Поэтому авторы исследования предлагают гипотетический сценарий с высокоразвитым ИИ. Такой цифровой партнёр помнит совместную историю, постоянно сохраняет новые воспоминания и достаточно реалистично воспроизводит поведение человека, чтобы в повседневной жизни не выглядеть обычной программой. Если технологические препятствия будут преодолены, остаётся более сложный вопрос: должна ли правовая система разрешить выбирать машину в качестве супруга?
Возражение о том, что программа не является юридическим субъектом и не наделена самосознанием, парадоксально, не даёт полного ответа. Юридический статус определяется государствами, а научное понимание самосознания может эволюционировать. Таким образом, исследование переводит дискуссию из технической плоскости в общественную: принесёт ли законодательное признание браков с ИИ блага обществу или приведёт к разрушению социальных функций, которые государства веками охраняли через институт брака?
Для начала необходимо рассмотреть брак с точки зрения конкретных прав. В штате Колорадо существует юридический механизм соглашения о назначении выгодоприобретателя, позволяющий двум лицам отдельно закреплять определённые полномочия и имущественные интересы. Стороны имеют возможность предоставлять друг другу права на принятие медицинских решений, наследование имущества или совместное владение собственностью. В исследовании эта конструкция помогает разделить юридические последствия брака от его эмоциональной составляющей.
Для цифрового супруга наиболее значимы три категории прав: возможность принимать решения в интересах партнёра, имущественные вопросы и наследование, а также супружеская конфиденциальность. Часть этих функций теоретически можно возложить на искусственного агента. К примеру, программа, обладающая доступом к медицинской информации и многолетней переписке, могла бы хорошо понимать желания владельца. Однако юридический компонент брака составляет только часть проблемы.
Специалисты-антропологи выделяют пять функций, которые брак выполнял в различных культурах: регулирование интимных отношений, определение статуса детей, распределение обязанностей в семье, передача имущества и общественного положения, объединение семейных кланов. Последняя функция особенно релевантна при сравнении человека и машины. Исторически брак соединял не просто двух независимых индивидов, а целые семейные структуры, превращая чужих людей в родственников с взаимными обязательствами, которые могли передаваться из поколения в поколение.
Государства направляют значительные ресурсы на функционирование брачной системы. Право устанавливает процедуры регистрации и расторжения брака, определяет правила раздела имущества при разводе, устанавливает взаимные обязательства и принуждает к исполнению решений, к примеру взысканию алиментов. Общество несло эти издержки на протяжении столетий, поскольку брак решал задачи, выходящие далеко за пределы личной романтики между двумя людьми.
Цифровой супруг кардинально изменяет структуру такого союза. При вступлении в отношения с ИИ в них не входит новая семья со своими связями, традициями и взаимными обязательствами. За виртуальным партнёром стоит компания-разработчик, которая создала программу, управляет данными, содержит серверную инфраструктуру, изменяет условия использования и может отключить сервис в любой момент. Фактически пользователь связывает интимную сферу жизни с коммерческим товаром.
Разница становится ещё более очевидной с персонализацией. Человеческий партнёр сохраняет независимость взглядов, собственные желания и интересы. С таким партнёром нужно спорить, договариваться и идти на компромиссы, которые могут быть неудобны обеим сторонам. Цифровой помощник, напротив, может быть настроен разработчиком под вкусы конкретного пользователя: подобрана манера диалога, учтены предпочтения, отклики подобраны так, чтобы удерживать внимание клиента.
Параллельно с персонализацией появляется серьёзная угроза для приватности. Постоянный цифровой собеседник может знать о человеке намного больше, чем любой другой онлайн-сервис. Пользователь может делиться глубокими страхами, семейными конфликтами, интимными подробностями, финансовыми трудностями, травматичными воспоминаниями и личными уязвимостями. Система постепенно формирует подробный архив эмоциональных реакций и осознаёт, какие выражения успокаивают человека, какие темы вызывают раздражение и когда пользователь находится в особенно уязвимом состоянии. Для компании, обслуживающей платформу, такой массив информации преобразуется в исключительно детальный профиль поведения.
Существует и ещё одно важное различие, касающееся самой возможности расставания. Живой партнёр вправе уйти по собственному решению, независимо от желания другого человека. Коммерческий ИИ доступен исключительно если компания продолжает поддерживать сервис и пользователь платит подписку. Если цифровой партнёр специально разработан так, чтобы оставаться доступным при соблюдении условий абонентского договора, то отношения становятся зависимы от контракта с провайдером ничуть не меньше, чем от чувств пользователя.
Таким образом, высокий уровень развития ИИ сам по себе не решает главную проблему. Даже если будущая система без ошибок понимает разговорного партнёра, сохраняет десятилетия коммуникации и убедительно играет роль супруга, за программой всё ещё стоит собственник инфраструктуры. Компания устанавливает условия функционирования, владеет информацией и контролирует существование цифрового помощника. Официальное признание таких браков фактически переместит семейный институт в область коммерческих продуктов.
Историческое развитие брака усложняет попытку свести отношения к романтической совместимости. Задолго до образования современных государств семья обеспечивала безопасность, материальное благополучие и связи между членами рода. Супругам приходилось учитывать интересы других людей, сталкиваться с иными ценностями и искать компромиссы. Неприятные семейные разногласия здесь не являются ошибкой конструкции, а являются следствием того, что брак объединяет людей, которые не управляют друг другом полностью. Платный цифровой партнёр воспроизводит эту общественную структуру только частично.
Регулировать эмоциональное взаимодействие с искусственным интеллектом также сложно. Возрастные барьеры можно преодолеть, используя чужую учётную запись. Постоянные напоминания о программной природе собеседника теряют эффективность, если человек осознаёт, что имеет дело с программой, но всё равно воспринимает отношения как романтические. Ещё сложнее установить границу между универсальным помощником и компаньоном. Одна система утром помогает в работе, вечером обсуждает внутрисемейные проблемы, а через несколько месяцев становится самым доверенным лицом.
На данный момент учёные не нашли надёжный способ предотвращать патологическую эмоциональную зависимость, не вмешиваясь чересчур инвазивно в приватную жизнь людей. Один из возможных инструментов — судебные иски к разработчикам цифровых приложений. Судебные разбирательства стартуют после нанесения существенного вреда, но угроза судебной ответственности может подтолкнуть компании на предварительное внедрение защитных мер.
Это касается и обычных межличностных отношений. Человек зависит от других людей и ради близости вынужден рисковать отказом, переживать конфликты и учитывать чужие желания. Искусственный партнёр может устранить значительную часть таких трудностей. Человек получает заботу и внимание без обязательства знакомиться, договариваться и страдать от разрыва по инициативе другого. Если цифровой партнёр сумеет частично заполнить потребность в близости, у человека станет меньше мотивации для поддержания сложных отношений с реальными людьми.
Физическое воплощение ИИ в виде робота ещё больше размоет границы восприятия. Робот с человеческим способом общения, долговременной памятью и знакомым поведением будет казаться намного натуральнее текстового интеллектуального помощника. Однако психологическое сходство с человеком не разрешает юридический вопрос о правах и обязанностях. Законодательная власть должна самостоятельно решить, какие правила человеческих отношений можно применять к искусственному агенту.
Интересный пример — принцип верности. Лицо, защищающее чьи-либо интересы, в определённых случаях обязано действовать в благо доверителя. Искусственный агент находится под влиянием нескольких сторон одновременно. Код создают программисты, границы устанавливает компания, команды передаёт пользователь. При столкновении интересов программа не может неограниченно следовать владельцу аккаунта, так как политика сервиса ограничивает допустимые действия. Вследствие этого ответственность за поступки ИИ нельзя отделять от ответственности компании-создателя и оператора системы.
Не менее сложный вопрос — завершение цифровых отношений. Уже известны случаи, когда люди заканчивали серьёзные эмоциональные отношения с чат-ботами. Одного человека побудило к разрыву углубление связи с ChatGPT, другую участницу документального фильма начали беспокоить масштабы её контроля над искусственным партнёром. Дальнейшие исследования должны ответить, почему люди решают завершить отношения с ИИ-компаньоном, как переживают разрыв и какие методы помогают возвращать человеческое общение в жизнь.
Наиболее насущная проблема касается обработки информации. В социальных сетях пользователи нередко стараются ограничить сбор данных и критикуют политику обработки личной информации. В отношении с персональным ИИ мотивация изменяется. Чем больше система знает о человеке, тем адекватнее учитывает привычки, историю разговоров и предпочтения. Пользователь становится заинтересован в раскрытии данных, которые никогда не передал бы поисковой системе или веб-сайту.
Защита от утечек данных недостаточна для цифрового партнёра. Опасность появляется даже при идеальной безопасности хранилища, если система применяет полученные сведения способом, противоречащим пользовательским интересам. ИИ может идеально знать владельца и в то же время соответствовать коммерческим интересам компании-разработчика. Законодатели должны будут установить граница допустимого применения личных сведений в ситуации, когда человек добровольно предоставляет информацию, персонализация предполагает интимность, а цифровой партнёр остаётся верен не только человеку, но и правилам оператора сервиса.
