Компания Orion soft запустила StarGuard AI, специализированный шлюз безопасности (AI Firewall), который работает как reverse proxy между пользователями и языковыми моделями. Платформа призвана защитить корпоративные данные при использовании как облачных, так и локальных LLM.
Что произошло
Разработанное Orion soft решение StarGuard AI обеспечивает централизованное управление доступом к таким моделям, как ChatGPT, Claude, DeepSeek, а также к локальным решениям GigaChat и YandexGPT. Система реализует многослойную проверку данных с помощью регулярных выражений, ML-детекторов для маскирования персональных данных (PII) и специализированных LLM-детекторов для борьбы с prompt-инъекциями, jailbreak-атаками и токсичным контентом. Платформа также поддерживает OCR для анализа содержимого вложений в форматах PDF, XLSX и DOCX и интегрируется с OpenWebUI, IDE и AI-агентами.
Контекст
Проблема «тени ИИ» (Shadow AI) возникает, когда сотрудники используют сторонние нейросетевые сервисы без ведома службы безопасности, что создает риски утечки интеллектуальной собственности и персональных данных через промпты. StarGuard AI выступает в роли инфраструктурного защитного слоя, позволяя компаниям легализовать использование мощных облачных моделей в рамках контролируемого контура.
Почему это важно для индустрии
Появление специализированных AI-шлюзов знаменует переход от бесконтрольного использования LLM к структурированному внедрению через слои комплаенса. В ближайшем будущем ожидается рост сегмента AI Firewalls и стандартизация протоколов взаимодействия между корпоративными системами и внешними API моделей, что сделает подобные защитные слои обязательным компонентом enterprise-инфраструктуры.
Почему это важно для пользователей
Для компаний это возможность безопасно использовать передовые модели вроде Claude или ChatGPT, не опасаясь, что секретный код или данные попадут в обучающие выборки провайдеров. Разработчики получают инструмент для создания защищенных AI-агентов, имея встроенную защиту от вредоносных инструкций внутри файлов и промптов.
Что пока неизвестно / ограничения
Существуют технические вызовы, связанные с потенциальным влиянием платформы на latency (задержку) системы и вопросами надежности самих ML-детекторов в реальной production-среде.
Источники
Автор
Look at AI, редакция