Простая сложная VictoriaMetrics

В сфере искусственного интеллекта произошло заметное событие. sergey_ist 22 минуты назад Простая сложная VictoriaMetrics Средний 17 мин 704 Блог компании KTS DevOps * Kubernetes * Туториал Привет, я Сергей Истомин, DevOps-инженер в KTS. А ниже моя история про построение мультитенантного скоупа кластеров VictoriaMetrics с разными периодами хранения метрик. Статья будет о том, как собрать систему одновременно и простую, и сложную.

Простую потому, что каждый поток данных в ней лаконичный и линейный, и сложную потому, что совокупности этих потоков комбинируются и интегрируются в общие компоненты. Система будет построена на редакции Community Edition. Надеюсь, что я вас хорошенько запутал и при этом заинтриговал.

Технические детали

ОглавлениеЗадачаРешение (коротко)Среда (на момент установки)Проектируем кластерВариантыВариант 1. Один общий кластерВариант 2. Два кластера (по кластеру на период)ДаунсемплингРешение (не коротко)retentionPeriodreplicationFactorVMInsert, VMStorage, VMSelectПолучившийся манифест VMClusterПроектируем потоки тенантовЗапросы извнеЗапись данныхЧтение данныхСовмещение чтения и записиGrafanaЕсли потребуется сбор метрик внутри Kubernetes (внутренний агент, расширение кластера long)Правила алертинга и предрасчетыАлерт-менеджерИтогиЗадачаПолучать, накапливать и предоставлять метрики из нескольких источников различных тенантов (клиентов мониторинга) с различными требованиями к глубине хранения метрик.

Для части тенантов срок хранения – 7 дней, для части – 30 дней. Предоставлять единую точку входа для агентов. Предоставлять единую точку для доступа к собранным метрикам.

Решение (коротко)VictoriaMetrics operator. Кластерный режим VictoriaMetrics. Два мультитенантных хранилища, одно со сроком хранения 7 дней, второе — 30 дней.

Отраслевые последствия

Доступ к данным на основе балансировки и прохождения авторизации в VMAuth. Выделенный VMAlert для каждого тенанта. Хранение и расчет правил VMRules в том же Kubernetes.

Общий алерт-менеджер. Среда (на момент установки)Managed Kubernetes в Yandex Cloud (версия 1. VictoriaMetrics operator (версия v0.

1, далее — Оператор). Проектируем кластерЧтобы вам было проще погрузиться в проект, я буду описывать систему по частям. Ниже я привожу несколько схем, так что сразу поясню, как их читать:сплошные стрелки — поток данных на запись;пунктирные стрелки — поток данных на чтение;синие стрелки — данные, хранящиеся 7 дней;зеленые стрелки — данные, хранящиеся 30 дней.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.