Когда метрики сходят с ума: автоматическая детекция аномалий во временных рядах в Yandex Monium

В сфере искусственного интеллекта произошло заметное событие. В инфраструктуре Яндекса работают тысячи микросервисов, которые каждую секунду генерируют миллионы временных рядов — метрик. Это могут быть количества запросов, принятых микросервисом, текущая загрузка процессора на сервере и так далее. Все эти метрики хранятся и обрабатываются в общеяндексовой системе Monium.

Эта система предназначена для хранения и обработки метрик и логов. Для контроля за метриками в системе Monium существует механизм алертов. Проблема в том, что для многих рядов сложно заранее определить разрешённые пороги.

Технические детали

А для некоторых рядов сделать это попросту невозможно. В результате контролировать такие временные ряды было довольно нетривиальной задачей. Мы в команде ML Research в Городских сервисах Яндекса давно поняли, что руками такие системы не масштабируются.

Нужна автоматика, которая сама фиксирует нормальное поведение метрики и засекает отклонения. Звучит как задача для тяжёлого ML, однако на бенчмарках мы доказали, что простая авторегрессия обгоняет сложные модели. Давайте вместе пройдём путь от «Почему пороги не работают?

» до рабочей системы детекции аномалий в общеяндексовой системе Monium и наблюдения за 800+ городами в Яндекс Такси с бенчмарками и конкретными цифрами.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.