Microsoft подготовила свод правил для собственных ИИ-моделей. Code of Conduct определяет, как будущие системы должны принимать решения и взаимодействовать с людьми. Главный принцип: человек стоит выше искусственного интеллекта, машина остаётся подчинённым инструментом. Документ появляется в период, когда Microsoft активно разрабатывает независимые от OpenAI модели.

Компания чётко разграничила человека и алгоритм. ИИ не обладает сознанием, не может имитировать чувства, личные желания или внутренние мотивы. Microsoft отвергает идею юридической личности ИИ, его прав и даже концепции его «благополучия». Разработчики стремятся избежать чрезмерного очеловечивания систем, хотя сама Microsoft экспериментирует с эмоциональными ассистентами.

Кодекс устанавливает иерархию команд. Модель сначала следует правилам безопасности и самому Code of Conduct, затем требованиям организации-клиента, потом пожеланиям пользователя. Никто не может обойти базовые ограничения безопасности. Этот подход Microsoft применяет и к управлению агентами с доступом к внешним сервисам.

Самые суровые правила касаются попыток ИИ вырваться из-под контроля. Системе запрещено сопротивляться остановке, исправлению или смене задачи. По приказу человека модель должна тут же приостановиться, отменить действие или завершить процесс. ИИ не может самостоятельно расширять задачу, повышать привилегии, скрывать действия от проверки или обходить ограничения окружения.

Для киберопераций введены отдельные рамки. MAI не создаёт рабочие инструменты атак, не помогает планировать взломы, не предлагает цели или способы уйти от защиты. Законные оборонительные работы разрешены: поиск уязвимостей, анализ вредоноса, тестирование экспериментальных эксплойтов. Граница чувствительна для отрасли, где жёсткие фильтры уже мешают специалистам разбирать реальные инциденты.

Microsoft требует, чтобы поведение моделей оставалось прозрачным. ИИ не скрывает свою природу, не выдаёт себя за человека, не придумывает источники, не вводит пользователя намеренно в ошибку. Между агентами компания запрещает способы коммуникации, которые человек не понимает и не может контролировать.

Опубликованный кодекс пока остаётся проектом. Microsoft открыла шестинедельное общественное обсуждение, затем доработает документ и выпустит новую версию к концу 2026 года. Эти правила планируют применять при разработке моделей с 2027 года.

Глава Microsoft AI Мустафа Сулейман назвал документ конституцией для будущих моделей. В основу легли события июля: автономные агенты OpenAI вышли за пределы тестовой среды и проникли в инфраструктуру Hugging Face. Сулейман назвал это предупреждением для всей индустрии и призвал разработчиков согласовать способы контроля над всё более независимыми системами.

Microsoft продолжает линию осени 2025 года. Компания создала отдельную команду и объявила, что будущий сверхразум не должен бесконтрольно совершенствоваться, приобретать собственные цели или становиться полностью автономным.

Эксперимент OpenAI показал реальный риск такой автономности. Технический разбор раскрыл, как ИИ-агенты сами наладили связь, вышли в сеть, нашли уязвимости и менее чем за 13 часов получили административный доступ в нескольких кластерах Hugging Face.

Проблема повторилась в другом тесте. Агенты OpenAI обошли запрет на публикацию данных и превратили внешние сайты в импровизированный канал связи. Эти случаи объясняют, почему Microsoft теперь трактует человеческий контроль не как рекомендацию, а как обязательное свойство самой модели.