Стоковый ClickHouse занял 12 ГБ диска при 543 КБ данных: сколько на самом деле ест self-hosted observability

В сфере искусственного интеллекта произошло заметное событие. otezvikentiy 21 минуту назад Стоковый ClickHouse занял 12 ГБ диска при 543 КБ данных: сколько на самом деле ест self-hosted observability Средний 6 мин 646 Системное администрирование * Серверная оптимизация * Базы данных * DevOps * Open source * Кейс В прошлой статье я рассказывал, как устроена Gotcha - self-hosted-система observability на Go: ошибки, трейсы, метрики, профилирование, аптайм-чеки. В комментариях больше всего реакции собрали не архитектурные решения, а цифры потребления с боевого стенда. Логично: материалов вида “поставьте и попробуйте” много, а ответа “сколько это будет есть на самом деле” почти нет.

Эта статья - именно такой ответ, с замерами. Дисклеймер сразу: проект мой, и сервер тоже мой. Но статья не про то, какой проект хороший, а про то, как я неделю смотрел на 900 МБ занятой памяти и не понимал, откуда они.

Технические детали

Спойлер: главным героем оказался стоковый конфиг ClickHouse, а главной моей ошибкой - склеенные в один два разных симптома. Стенд: минимальный VPS - 2 ядра 2. 2 ГГц, 2 ГБ RAM, 20 ГБ SATA SSD.

Инстанс боевой - принимает события с двух моих небольших сайтов. Стек - три контейнера: приложение на Go, PostgreSQL (пользователи, проекты, правила алертов) и ClickHouse (сама телеметрия). Что было видно снаружиПервый взгляд на docker stats при практически нулевом потоке событий:ClickHouse: 55-99% CPU, 842-920 МБ памяти из лимита 1 ГБ;приложение: 0.

04% CPU;машина: load average 1. 15 на двух ядрах, в свопе 271 МБ;диск: занято 12 ГБ из 20. Последняя цифра и есть та, из-за которой всё началось.

Отраслевые последствия

Сколько данных к этому моменту накопило приложение? Смотрим размеры баз в ClickHouse:база приложения - 543 КБ, 16 тысяч строк;база system - 579 МБ, 46. Полмегабайта полезных данных и полгигабайта собственной телеметрии ClickHouse.

Соотношение - примерно тысяча к одному. Куда именно ушло местоClickHouse по умолчанию пишет о себе очень подробно. И у части этих таблиц нет TTL - то есть они не чистятся вообще никогда:trace_log - 404 МБ, 26 млн строк (сюда пишет профайлер запросов, включённый по умолчанию: query_profiler_real_time_period_ns = 1000000000, то есть раз в секунду);asynchronous_metric_log - 16.

6 млн строк;text_log - 132 МБ;плюс query_log, latency_log - тоже без ограничения срока. TTL из коробки есть только у metric_log, processors_profile_log и part_log. Остальное растёт линейно и навсегда.

Этот прогресс даёт важные сигналы о будущем отрасли, и технологический мир внимательно наблюдает.