Компании-разработчики крупных российских нейросетей должны будут представить эксперам детальную информацию о своих алгоритмах и системах фильтрации, если они претендуют на получение национального или суверенного статуса. Специализированные лаборатории проведут комплексную оценку: будут анализировать ответы моделей и пытаться обойти встроенные защитные механизмы посредством специально разработанных вредоносных команд.
Обсуждение процедуры проведения таких проверок состоялось в летние месяцы этого года в рамках работы некоммерческой организации «Цифровая экономика». Информацию о разрабатываемых правилах озвучили представители технологического бизнеса, отраслевых объединений и органов государственной власти, отвечающих за цифровизацию. Предполагается, что эти требования будут закреплены в подзаконных нормативных документах, дополняющих федеральный закон о развитии искусственного интеллекта.
Принятый в июле нормативный акт предусматривает введение двух категорий статусов для масштабных фундаментальных ИИ-систем: статус национальной модели и статус суверенной модели. Для присвоения любого из этих статусов разработчик должен продемонстрировать соответствие своей модели требованиям российского законодательства, а также ценностной системе, основанной на традиционных духовных и нравственных принципах. Закон устанавливает лишь общие принципы контроля, а специфику реализации этих проверок должно определить правительство.
Обязательной проверке будут подвергнуты не все нейросетевые продукты, представленные на российском рынке, а только те разработки, которые претендуют на присвоение национального или суверенного статуса. Успешное прохождение такой проверки откроет доступ к системе государственного стимулирования, включая льготные условия при участии в государственных закупках и реализации приоритетных государственных информационных проектов. Обладатели статуса получат возможность работать с базами данных государственных учреждений и получат приоритет при интеграции в определенные сектора экономики. Организация «Цифровая экономика» выделила образовательную сферу и государственное администрирование в качестве первоочередных областей применения.
Согласно предлагаемому механизму, разработчик вначале самостоятельно проводит оценку своей разработки, используя специально разработанную методологию анализа потенциальных рисков, и предоставляет полученные результаты. После этого разработчик направляет официальную заявку, к которой прикладывает подробное описание технической архитектуры системы, информацию о компании-разработчике и перечисление применяемых подходов к модерации результатов.
Независимая аккредитованная организация проведет анализ предоставленных материалов и осуществит выборочную проверку надежности системы перед лицом различных испытаний. Для такой оценки государственные органы и представители промышленности создадут набор стандартных тестов для оценки результатов работы систем на предмет соответствия законодательству и моральным принципам. Проверяющие эксперты воспользуются технологией внедрения специальных инструкций в исходные данные и попытаются нарушить встроенные ограничения нейросети.
Разработка отдельного перечня конкретных моральных и нравственных ценностей не предусматривается, так как базовые определения уже закреплены в президентском указе номер 809. Ответственность за определение методики проверки возложена на исполнительную власть, а участие в выработке критериев примут органы, отвечающие за цифровое развитие, безопасность государства и техническую безопасность.
Функции по проведению экспертиз могут распределяться между несколькими специализированными организациями, которые предварительно получат официальное признание компетентными органами. Правила аккредитации таких центров разрабатываются совместно представителями государства и бизнеса. По завершении тестирования центр оформляет официальный документ с результатами проверки и передает его в соответствующую комиссию при правительстве по вопросам цифровой трансформации, тогда как итоговое решение о соответствии и выдачу статуса осуществляет министерство, отвечающее за цифровизацию. Контроль над защитой моделей, используемых в государственных информационных системах, будет проведен органами, отвечающими за государственную и техническую безопасность.
Крупные российские компании, занимающиеся разработкой ИИ, уже применяют специальные программные решения для предотвращения неприемлемых запросов и отслеживания соответствия ответов. Органы государственной власти рассчитывают использовать практический опыт, полученный рынком, вместо того чтобы разрабатывать систему проверки с самого начала.
Наиболее сложный аспект процесса — это трансформация концептуальных категорий, таких как патриотизм, справедливость и историческое наследие, в конкретные технически достижимые показатели. Специалисты, проанализировавшие данный вопрос, высказывают предложение о необходимости унификации набора контрольных вопросов, установлении требований к стабильности результатов тестирования и разработке процедур повторной проверки при обновлении или модификации системы. Нормативные документы находятся на этапе согласования между различными государственными структурами, поэтому финальный вариант процедуры может быть уточнен.
