Российское государство разрабатывает механизм аттестации крупных ИИ-моделей на предмет их соответствия действующему законодательству и традиционным нравственным ценностям. Эту работу планируется поручить независимым аккредитованным лабораториям, которые будут применять специализированные методики тестирования и проверять устойчивость систем к различным техническим атакам.
Разработка данной процедуры велась в июле-августе 2026 года на базе организации «Цифровая экономика». В настоящее время государственные ведомства готовят нормативные документы в соответствии с принятым в июле законодательством об искусственном интеллекте.
Новое законодательство предусматривает присвоение крупным моделям ИИ двух категорий статуса — национального и суверенного. Для получения одной из этих категорий разработчики должны документально подтвердить, что их продукт соответствует российским правовым нормам и общепринятым морально-нравственным принципам. Однако данная проверка будет распространяться исключительно на модели, претендующие на эти статусы и связанные с ними формы государственной помощи, а не на всю совокупность ИИ-систем на рынке. Законодательный акт имеет общий характер, и конкретные правила применения технологий ИИ в стране будут установлены дополнительными нормативными документами.
Предполагается, что работа по аттестации моделей будет выполняться несколькими квалифицированными лабораториями, параметры деятельности которых в настоящее время согласовываются Министерством цифровых технологий совместно с представителями промышленности. Процесс будет двухэтапным: сначала производители самостоятельно проведут анализ своей системы в соответствии с единой методикой оценки рисков, после чего передадут полученные данные экспертам вместе с полной технической документацией, включая описание структуры системы и механизмов контроля.
На следующем этапе специалисты лаборатории проведут дополнительную выборочную проверку системы, используя специальные наборы тестов. Они будут анализировать ответы ИИ-системы и пытаться преодолеть установленные ограничения посредством специализированных техник. По завершении проверки лаборатория оформит свое заключение, однако окончательное решение о соответствии и присвоении нужного статуса будет приниматься сотрудниками Министерства цифровых технологий.
Согласно информации из источников, отдельный перечень моральных ценностей разрабатываться не будет: необходимый список уже закреплен в соответствующем президентском документе. К ним относятся: гражданская ответственность, справедливость и память об истории. Однако методологические основы тестирования и наборы проверочных тестов еще предстоит разработать при участии специалистов Министерства цифровых технологий, органов безопасности и технического контроля. Последние учреждения также будут ответственны за оценку защищенности систем, предназначенных для государственного применения.
Положительное экспертное заключение лаборатории будет необходимым компонентом процесса получения национального или суверенного статуса. Обладатели такого статуса получат доступ к государственной помощи, к информационным ресурсам госучреждений и приоритетное применение своих ИИ-систем в критических областях. В частности, планируется в первую очередь внедрять такие системы в сферах образования и предоставления государственных услуг населению.
Специалисты-эксперты указывают на существующую проблему объективной оценки установленных критериев. По их мнению, абстрактные понятия вроде «справедливость» или «историческая память» сложно трансформировать в четкие технические требования. Они предлагают установить стандартизированные наборы тестов с определением допустимых и недопустимых реакций системы, закрепить версии моделей и параметры проведения проверок для возможности повторного воспроизведения результатов. Это означает, что при обновлении и модификации моделей может потребоваться повторное прохождение сертификации.
Представители Министерства цифровых технологий отмечают, что комплекс нормативных документов в настоящее время проходит согласование между ведомствами и совершенствуется с учетом предложений от предпринимателей и экспертного сообщества, поэтому преждевременно говорить о окончательной схеме проверки.
