Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри

В сфере искусственного интеллекта произошло заметное событие. Svortex 10 часов назад Почему ваша LLM-платформа — следующая цель: аудит безопасности AI-сервиса изнутри Уровень сложности Средний Время на прочтение 10 мин Охват и читатели 8. 5K Информационная безопасность * DevOps * Искусственный интеллект Python * Кейс Disclaimer : Всё описанное — результат санкционированного аудита безопасности по договору. Уязвимости ответственно раскрыты, ключи ротированы, домены и IP изменены.

Статья — для понимания, не для воспроизведения . Мы искали уязвимости в RAG-платформе с десятками тысяч пользователей — а нашли доступ ко всей инфраструктуре и API-ключам с бюджетом в сотни тысяч долларов. Две недели мы строили сложные цепочки: SSRF через LangChain, инъекции в промпты, HTTP smuggling, CVE в десериализации.

Технические детали

Ни одна не дала результата. А потом мы сделали один curl к открытому порту — и получили все ключи за 5 минут. Эта статья — не гайд по взлому .

Это разбор того, почему LLM-инфраструктура создаёт принципиально новые риски, какие ошибки мы раз за разом видим в AI-стартапах, и на что стоит обратить внимание, если вы строите что-то похожее. Почему LLM-платформы — особый класс целей Прежде чем переходить к конкретике — важно понять, чем аудит AI-платформы отличается от обычного SaaS. Обычное веб-приложение: Пользователь → API → База данных LLM-платформа: Пользователь → API → Прокси → Evaluate (ключи) → Worker → LLM-провайдер ↕ ↕ PostgreSQL api.

com (пул ключей) (x-api-key: sk-ant-... ) Разница принципиальная: Дорогие секреты в обороте. API-ключи от Anthropic/OpenAI — это не пароли от тестовой БД.

Отраслевые последствия

Это прямой доступ к биллингу на десятки тысяч долларов в месяц. User-controlled routing. В классическом SaaS пользователь отправляет данные.

В LLM-платформе пользователь может косвенно влиять на то, куда сервер отправит HTTP-запрос — через выбор модели, хоста, параметров. Прокси-архитектура с передачей секретов. Ключ извлекается из базы, передаётся между сервисами, оседает в памяти процесса.

Каждый этап — потенциальная точка утечки. Быстрый MVP → безопасность потом. AI-стартапы торопятся.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.