Компания ScanFactory разработала и представила инновационный продукт Prizma — специализированное решение для мониторинга и защиты корпоративной инфраструктуры искусственного интеллекта.
ScanFactory представила новое решение под названием Prizma, предназначенное для контроля и защиты инфраструктуры искусственного интеллекта в крупных организациях. Данный продукт помогает предприятиям безопасно внедрять языковые модели и ИИ-агентов, одновременно осуществляя контроль данных, управление доступом, отслеживание затрат и взаимодействие с внешними поставщиками ИИ-услуг.
Применение искусственного интеллекта в корпоративной среде развивается ускоренными темпами: работники начинают использовать открытые языковые модели, подразделения внедряют ИИ-агентов и системы поиска с пополнением контекста, а количество запросов к различным алгоритмам растет. Параллельно с этим появляется новый спектр угроз — начиная с раскрытия конфиденциальной информации и заканчивая растущим использованием несанкционированного искусственного интеллекта.
Prizma действует в роли единого центра управления и контроля между сотрудниками, внутренними системами и ИИ-провайдерами. Система анализирует входящие запросы и выходящие результаты в режиме реального времени, предоставляя организациям централизованный механизм для управления применением искусственного интеллекта во всей компании.
Основные возможности Prizma
- Отслеживание потребления вычислительных единиц — контроль использования ИИ-моделей и денежных расходов у различных поставщиков из одной управляющей системы.
- Защита от атак на искусственный интеллект — распознавание и предотвращение манипулирования инструкциями и других типов атак согласно перечню наиболее опасных уязвимостей для языковых моделей.
- Предупреждение раскрытия чувствительной информации — выявление и автоматическое скрытие важной информации в запросах и ответах модели.
- Автоматическое блокирование подозрительных запросов согласно установленным правилам безопасности.
- Администрирование ИИ-агентов с использованием системы управления ролями и отслеживания взаимодействий.
- Ведение записей и проверка всех обращений к ИИ для обеспечения открытости и контроля использования моделей в организации.
Комплексная система защиты
Prizma уделяет особое внимание потенциальным опасностям, возникающим при создании собственной ИИ-инфраструктуры.
Решение позволяет обезопасить системы поиска с пополнением контекста, идентифицируя скрытые ключи доступа и критически важные данные в загруженных документах, а также обнаруживая неконтролируемое применение ИИ-сервисов в организационной инфраструктуре.
Для особо важных ситуаций предусмотрена функция экстренного отключения, основанная на системе управления ролями, которая позволяет быстро остановить функционирование отдельных ИИ-компонентов или целых цепей процессов.
Таким образом, Prizma устанавливает единый уровень безопасности между организационной системой и искусственным интеллектом — от открытых языковых моделей до внутренних алгоритмов, систем поиска с пополнением контекста и самостоятельных агентов.
Посредством запуска Prizma компания ScanFactory развивает область цифровой безопасности и входит в инновационный сегмент рынка — охрану инфраструктуры искусственного интеллекта в организациях.
