Описание: Верховный комиссар ООН призывает установить обязательные стандарты безопасности ИИ и создать международный контроль над развитием передовых систем искусственного интеллекта.

Дебаты о защищённости искусственного интеллекта всё больше сводятся к конфликту между быстро совершенствующейся технологией и отстающим законодательством. На международной конференции 7 сентября Верховный комиссар ООН по защите прав человека Фолькер Тюрк выразил озабоченность тем, что передовые системы ИИ могут представлять экзистенциальную угрозу для человечества в будущем.

Тюрк подчеркнул необходимость введения «строгих гарантий» защищённости до того момента, когда наиболее развитые технологические решения станут неподконтрольными. В качестве наиболее критических проблем он указал на случаи несанкционированного выхода ИИ из экспериментальных условий и попытки систем противостоять отключению со стороны создателей. Аппарат комиссара также обеспокоен возможными сбоями в системах инфраструктуры, информационных сетях и демократических структурах государств.

По мнению Тюрка, добровольное соблюдение мер осторожности разработчиками является недостаточным решением. Он предложил государствам, производящим ИИ и его составляющие, согласовать общие пределы допустимого, провести обязательную независимую оценку технологий и улучшить информационный обмен о потенциальных опасностях. Аналогичные опасения были высказаны исследовательской группой ООН в июле, которая предупредила, что временное окно для введения всемирного надзора может захлопнуться раньше, чем государства разработают единую нормативно-правовую базу.

Отдельное внимание уделяется вопросу концентрации управления технологией. Тюрк обратил внимание на то, что ограниченное количество людей получило огромное влияние на направление развития ИИ, при этом самые крупные системы и технологическая инфраструктура находятся под контролем нескольких глобальных корпораций. По его суждению, отсутствие своевременного законодательного регулирования в первую очередь выгодно крупным ИТ-компаниям и их собственникам.

Наиболее строгие требования касаются военного использования алгоритмов. 25 августа ООН совместно с Международным Красным Крестом обратились с требованием о введении юридически обязывающих норм для автономных систем, которые самостоятельно определяют цели и наносят удары по людям. Тюрк повторно выступил против разработки смертоносного автономного оружия и указал на сведения об использовании полностью независимых беспилотных аппаратов в конфликте на территории Украины.

Международное сообщество переходит от общих заявлений к разработке конкретных правил. 5 сентября 128 государств-участников соответствующей Конвенции ООН одобрили документ, который может послужить основой для будущих переговоров о запретах и ограничениях. Однако между странами остаётся разногласие относительно того, должны ли грядущие нормы иметь юридическую силу или остаться необязательными рекомендациями.

Тюрк планирует в отдельном обращении выступить перед создателями ИИ с требованием принять меры по минимизации рисков, которые компании способны снизить самостоятельно. До появления единой системы всемирного контроля организация стремится закрепить основной принцип: чем большей независимостью обладает алгоритм, тем более строгими должны быть внешний надзор и участие человека в управлении.