AI Security. Кому и зачем это надо

Значимый прорыв формирует отрасль ИИ: VulkanCyberSecurity 1 минуту назад AI Security. Кому и зачем это надо Простой 13 мин 7 Блог компании НТЦ Вулкан Информационная безопасность * Искусственный интеллект Обзор ИИ сейчас встраивают практически в каждый продукт: от чат‑ботов до внутренних систем автоматизации. Но почти все думают о том, как внедрить его быстрее, и почти никто — о том, как его защищать.

В этой статье рассмотрим ИИ как поверхность атаки. Будет затронуто четыре основных блока: кто и как регулирует ИИ, как ломают ИИ‑системы (Red Team), как их защищают (Blue Team) и что лучше почитать, если тема вызывает интерес. Прежде всего нужно разграничить несколько очень близких понятий, которые постоянно путают: AI Security, MLSecOps и AI Safety.

Технические детали

Что такое AI SecurityВнутри AI Security можно выделить четыре основных направления:Шаг вверх: AI SafetyНа самом деле AI Security — лишь часть большого пласта под названием AI Safety, то есть безопасности ИИ для пользователей и общества в целом. Это молодая область, она все еще развивается, причем в основном на Западе. Поэтому терминология целиком англоязычная.

На сегодняшний день можно условно разделить AI Safety на четыре области:Кто и как регулирует ИИРассмотрим регуляторную политику четырех юрисдикций: РФ, ЕС, США и Китай. Формально все это относится к AI Safety в целом, но на практике упор почти везде сделан на два вектора — AI Security и AI Control & Governance. Дальше будет видно, как они сочетаются в разных юрисдикциях.

Российская ФедерацияВ РФ регулирование ИИ и связанных с ним рисков основано на конкретных требованиях к разработке и эксплуатации ИИ‑систем. Данная стратегия реализуется в виде стратегических документов, нормативных актов и ГОСТов. Четкого разделения на Security и Governance нет, но виден уклон в сторону кибербезопасности (Security).

Отраслевые последствия

Основной документ — Указ Президента РФ № 490 «О развитии искусственного интеллекта», утвердивший национальную стратегию до 2030 года. Он задает цели (качество жизни, экономическая конкурентоспособность, нацбезопасность) и вводит концепцию «доверенного ИИ»: безопасность, недискриминация, недопустимость причинения вреда. Больше этическая сторона вопроса в РФ не затрагивается.

Ключевой нормативный акт — Приказ ФСТЭК № 117 от 11. 2025, вступивший в силу 1 марта 2026 года. Документ свежий, и по нему стоит пройтись подробнее.

В нем впервые на уровне требований ФСТЭК к госсистемам защита ИИ закреплена как отдельное обязательное мероприятие (пункты 34т, 60 и 61). Однако детальных технических мер по защите в приказе не приводится. Они вынесены в отдельный пункт 3.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.