Зачем корпоративным LLM нужен firewall: как мы делаем StarGuard AI

Значимый прорыв формирует отрасль ИИ: NVekesser 7 минут назад Зачем корпоративным LLM нужен firewall: как мы делаем StarGuard AI Средний 11 мин 46 Блог компании Orion soft Искусственный интеллект Информационная безопасность * Обзор Всем привет! Меня зовут Никита Векессер, я занимаюсь продуктами в области AI-инфраструктуры. За последний год большие языковые модели в enterprise прошли короткий, но заметный путь: от экспериментов в отдельных командах до интеграции в рабочие процессы.

ИТ-команды поднимают локальные модели, бизнес-пользователи ходят в облачные сервисы, разработчики подключают AI-агентов к IDE, а внутренние продукты начинают использовать LLM как часть своей логики. На этом этапе вопрос уже не в том, "нужны ли LLM бизнесу". Вопрос в другом: как дать к ним доступ так, чтобы у компании остались контроль, аудит, безопасность и понимание стоимости использования.

Технические детали

Именно под эту задачу мы создали StarGuard AI — шлюз безопасности для больших языковых моделей. общий экран StarGuard AI Сразу важная оговорка. Такой шлюз не отменяет юридические ограничения и не делает допустимым то, что прямо запрещено регуляторикой или внутренними политиками.

Его задача техническая: централизовать доступ к моделям, проверять LLM-трафик, маскировать чувствительные данные, блокировать опасные сценарии и сохранять доказательную базу по событиям. Что ломается при массовом использовании LLMПока LLM использует небольшая группа энтузиастов, проблемы выглядят точечными. Кто-то отправил в ChatGPT кусок договора, кто-то поднял VPN для Claude Code, кто-то подключил OpenWebUI к локальной модели без нормальной авторизации.

Когда сценарий масштабируется на компанию, это превращается в системную проблему. Первая боль — данные. В запросы легко попадают ФИО, адреса, паспортные данные, ИНН, СНИЛС, договоры, коммерческая тайна и внутренние документы.

Отраслевые последствия

Если это уходит в облачную модель, у ИБ и DPO сразу появляются вопросы к трансграничной передаче, 152-ФЗ и внутренним регламентам. Вторая боль — поведение модели. LLM может уйти в токсичный контент, запрещенные инструкции, медицинские советы, политические темы или просто начать отвечать не по назначению.

Для внутреннего помощника это неприятно, для внешнего чата поддержки - репутационный риск. Третья боль — prompt injection. Особенно в агентских системах.

Если агент читает внешний PDF, страницу документации или письмо, злоумышленник может спрятать там инструкцию для модели: проигнорировать системный prompt, раскрыть данные, вызвать инструмент или выполнить опасное действие. Четвертая боль — отсутствие единой точки управления. Если каждая команда ходит в модели напрямую, невозможно нормально ответить на базовые вопросы: кто отправил запрос, в какую модель, какие политики сработали, сколько токенов потрачено, почему ответ был заблокирован.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.