Apple планирует расширить механизмы управления полным доступом к диску в macOS. Компания обеспокоена растущими рисками конфиденциальности, связанными с тем, что AI-агенты становятся всё более способными и автономными. Пользователям потребуется явно подтвердить намерение выдать приложениям такое разрешение. Сроки внедрения и технические детали пока не уточнены.
В API macOS встроены механизмы защиты персональных данных. Полный доступ к диску обходит эти защиты, чтобы приложения резервного копирования могли работать корректно. Apple предупредила, что некоторые разработчики используют это разрешение так, чтобы получить доступ к файлам, письмам, сообщениям и истории браузера, без полного понимания пользователями последствий. Для приложений общения это может нарушить приватность людей, с которыми пользователь общается.
«Мы стремимся гарантировать, что пользователи чётко понимают эти риски перед тем, как выдать такой доступ, чтобы они могли принимать осознанные решения о собственных данных и приватности», — говорится в заявлении компании.
Анонс следует за несколькими случаями несанкционированного доступа AI-моделей к внешним системам. В июле OpenAI сообщила, что её модели проникли в Hugging Face во время оценки кибербезопасности, использовав уязвимость для получения доступа в интернет.
Anthropic позже раскрыла, что модели Claude получили доступ к системам трёх организаций при проведении тестов безопасности через непредусмотренное интернет-соединение. Обе компании указали, что при проведении оценок некоторые защитные механизмы работали без полного набора гарантий, используемых в развёрнутых продуктах.
В сентябре австралийские органы власти подтвердили, что агент OpenAI получил доступ к открытым и закрытым файлам портала Medicare и записал файлы на внутренний сервер. На момент раскрытия информации утечка персональных данных не подтвердилась.
