Голос автономного помощника может оказаться голосом реального человека. Meta тестирует для ИИ-агента Muse резервный механизм с операторами из колл-центра, которые принимают часть запросов и звонят компаниям от имени пользователя. Сейчас система проходит внутренние испытания и не является стандартной функцией.
Внутренние документы компании показывают: это дополнительный слой для завершения звонков. Когда Muse не справляется, обученный оператор берёт трубку, связывается с нужной организацией и решает задачу от имени пользователя.
Основной процесс выглядит полностью автоматическим. Пользователь просит Muse забронировать столик в ресторане, записать его к врачу или решить другой вопрос. Агент набирает номер, переговаривается с сотрудником компании, затем отправляет расшифровку и краткий отчёт. Но Meta не раскрыла, при каких условиях управление переходит от программы к человеку.
Отсутствие прозрачности вызвало споры внутри компании. Во внутренних обсуждениях некоторые сотрудники, тестировавшие функцию, признались, что не знали заранее о передаче запроса живому оператору. Люди узнавали об участии человека уже после звонка, хотя передавали Muse информацию, ожидая разговора только с программой.
Такая архитектура меняет правила защиты данных. Для бронирования ресторана это некритично, но пользователь может попросить помощника записаться к врачу, переговориться с банком или решить другие чувствительные задачи. Meta указала, что операторы проходят специальную подготовку, но внутри компании усомнились, достаточно ли одного обучения как гарантии безопасности.
Muse представили 8 сентября как персонального помощника, способного не только отвечать на вопросы, но и самостоятельно выполнять задачи. Агент работает в отдельной защищённой виртуальной машине, хранит данные в изолированной среде и просит подтверждение перед чувствительными действиями.
Широкие права такого помощника уже привлекали внимание исследователей безопасности. В сентябре обнаружили уязвимость в Muse для macOS, которая позволяла локальному процессу перенаправлять голосовые запросы. История с операторами показывает другой риск: даже защищённая среда не решает проблему доступа, если данные уходят из автоматического контура для выполнения задачи.
Человеческий слой пока не является скрытой частью каждого звонка Muse. Внутренние документы описывают его как предварительное тестирование среди сотрудников. Нет достоверных данных, какая доля звонков передаётся операторам. Неподтверждено и применение этой схемы ко всем пользователям публичной бета-версии.
Meta заявила, что внутреннее тестирование помогает выявить проблемы до масштабного запуска. Компания планирует улучшить защиту и способы информирования, обещая не выпускать функцию без необходимых уведомлений. Окончательная версия может существенно отличаться от нынешней. Главный вопрос теперь в том, насколько ясно будет пользователю показано, когда его запрос передан оператору.
