VictoriaLogs vs Loki vs Elasticsearch

В сфере искусственного интеллекта произошло заметное событие. dbraincloud 35 минут назад VictoriaLogs vs Loki vs Elasticsearch Средний 5 мин 1. 5K Блог компании dBrain Kubernetes * Микросервисы * IT-инфраструктура * DevOps * Кейс Привет, Хабр! Меня зовут Юра Пачковский, я DevOps-инженер платформы контейнеризации dBrain.

Это я рассказывал вам об устройстве нашей системы мониторинга тут, тут и тут. В этой статье мы постараемся разобрать плюсы и минусы VictoriaLogs как решения для логирования в облачной платформе dBrain. Структура статьи примерно такая, выбирайте разделы по душе:Какие технологии опробовали Сравнение ресурсов Пример настройки Так почему все-таки VictoriaLogs?

Технические детали

Личный опыт использованияЕсли нужны факты и мнение, пролистывайте пункт "Размышления" :)РазмышленияСперва нужно рассказать кратко зачем вообще нужен логгинг в облачной платформе и какие он дает удобства для команд, поддерживающих работоспособность и отказоустойчивость не только платформы, но и бизнес-приложений. Логгинг необходим в первую очередь для того, чтобы понять, что пошло не по плану, когда приложение «встало» — как в реальном времени, так и после того, как инцидент уже завершился. Наша задача — восстановить полный флоу событий, чтобы выявить первопричину сбоя и разработать механизм его предотвращения.

Для примера возьмем вымышленную ситуацию, когда один из подзапросов к базе падает по пермишенам. Что мы видим без разбора логов в этой ситуации? С одной стороны, в зависимости от реализации бэкенда, фронтенд может получать коды статуса 500 или 400.

Это абсолютно не проясняет картину, особенно если инцидент не связан с многочисленными запросами, а RUM (Real User Monitoring) на стороне клиента не реализован. Добиться внятного описания от клиентской части — настоящая боль для любой команды. В такой ситуации мы оказываемся в тупике: остается только вручную перебирать сервисы по цепочке (а их могут быть десятки, если не сотни) и надеяться, что запись нужного лога не потеряется на фоне остальных.

Отраслевые последствия

Это крайне печально, поскольку мы вылетаем за рамки SLA и портим впечатление клиента о себе. С другой стороны, при наличии полноценной системы логирования достаточно одного запроса с фильтрами, чтобы оперативно вывести все логи уровней “warn”, “error”, “critical” и “panic” от интересующих нас сервисов в цепочке. Найти подозрительную запись, которая могла привести к такой ситуации, не составит труда.

Какие технологии опробовалиИтак, с необходимостью системы логирования разобрались. Теперь главный вопрос: какие решения существуют, чтобы и работать было удобно, и внедрить у себя несложно. Мы протестировали Elasticsearch, Loki и VictoriaLogs.

Сразу скажем: у каждого из них есть свои плюсы и минусы. Вот мнение автора на этот счет:Если хостов немного (условно, до 30) — берем Elastic или VictoriaLogs single instance. Если нужно горизонтальное масштабирование — однозначно VictoriaLogs.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.