Компания A10 Networks объявила о выходе AI Gateway - унифицированной платформы управления, которая обеспечивает организациям централизованную маршрутизацию, управление расходами и контроль над всеми AI-агентами, приложениями и большими языковыми моделями, используемыми в их экосистеме.

По мере ускорения внедрения искусственного интеллекта разработчики активно встраивают AI-агентов и интеллектуальные функции в приложения и корпоративные системы, обращаясь к растущему разнообразию моделей. Без единой точки управления команды не имеют достаточной видимости относительно того, какие модели используются, как они работают, какие затраты они требуют и эффективно ли работают системы.

AI Gateway объединяет все взаимодействия с искусственным интеллектом в одну управляемую среду, позволяя организациям оптимизировать производительность, контролировать затраты, централизовать мониторинг, обеспечивать безопасность и предоставлять разработчикам надежный доступ к нужным моделям.

Генеральный директор A10 Networks Дхрупад Тривиди отметил: "Предприятия должны быстро внедрять ИИ и одновременно сохранять контроль. Использование ИИ распространяется быстрее, чем команды могут его отследить и защитить, что приводит к росту затрат и отсутствию единой системы управления. AI Gateway предоставляет единую платформу управления для визуализации использования ИИ, управления доступом к моделям и оптимизации стоимости каждого запроса. Наше решение позволяет предприятиям внедрять ИИ с уверенностью."

Интеллектуальная платформа управления для ИИ

Первое поколение AI-шлюзов обеспечивало централизованный доступ, упрощало управление API и отслеживало запросы от разных провайдеров. Сейчас корпоративный ИИ существенно усложнился: разные команды требуют разные модели, и каждый запрос имеет уникальную сложность. AI Gateway выходит за рамки простого управления трафиком, интеллектуально маршрутизируя каждый запрос к наиболее подходящей модели на основе его характеристик.

Основные возможности платформы:

  • Управление доступом на основе идентификации: Организации применяют политики доступа и маршрутизации для отдельных пользователей и групп, синхронизируя их с существующими системами управления каталогами.
  • Интеллектуальная маршрутизация: Система анализирует сложность каждого запроса и направляет простые задачи к экономичным моделям, а сложные задачи к высокопроизводительным решениям.
  • Централизованное управление трафиком и затратами: Платформа предоставляет отслеживание стоимости в реальном времени, установку бюджетов по моделям и командам с жесткими лимитами и предупреждениями, а также ограничение интенсивности обработки с полной видимостью использования.

Результат - более контролируемый, эффективный и безопасный подход к корпоративному ИИ. AI Gateway дополняет портфель решений безопасности A10 Networks, защищая ИИ на всех этапах жизненного цикла.

Решение развертывается как программное обеспечение или интегрированное с аппаратным обеспечением внутри инфраструктуры клиента - на локальных серверах, в приватном облаке или в изолированных сетях. Это обеспечивает полный контроль данных и соблюдение требований суверенитета данных.