Повторная обработка сообщений в Kafka Consumer

В сфере искусственного интеллекта произошло заметное событие. Magnit_OMNI 15 минут назад Повторная обработка сообщений в Kafka Consumer 4 мин 600 Блог компании Magnit Tech Веб-разработка * Java * Кейс Привет! Меня зовут Дмитрий Михеев, я ведущий разработчик в MAGNIT OMNI — бизнес-группе ритейлера «Магнит», которая отвечает за развитие омниканального опыта для клиентов. В своих сервисах для межсервисных коммуникаций помимо gRPC-запросов мы используем брокер сообщений Kafka.

Если описывать его в двух словах, Kafka — это распределённый журнал событий (event log), через который сервисы обмениваются данными в реальном времени. Не буду подробно останавливаться на устройстве Kafka — это хорошо описано в документации. В этой статье хочу подсветить один неочевидный момент, который может привести к проблемам при работе с consumer’ами — повторную обработку сообщений (retry).

Технические детали

ПроблемаМне этот кейс встретился в сервисе-адаптере, который принимал события из Kafka (например, создание заказа), обрабатывал сообщение и отправлял запросы во внешние API партнёров. Во время обработки могли возникать временные ошибки:кратковременная недоступность внешнего сервиса;сетевые сбои;временные ошибки базы данных;ошибки авторизации из-за истёкшего токена. В моём случае проблема была связана именно с токеном авторизации.

Логика была примерно такой:токен хранится в базе;если срок его действия ещё не истёк — используем его;если истёк — запрашиваем новый у партнёра и сохраняем в БД. Но мог возникнуть неприятный сценарий:на момент чтения из базы токен ещё валиден;пока доходим до внешнего API — токен уже истёк;время на нашей стороне и у партнёра может немного расходиться. В результате сообщение полностью валидное, но обработка падает из-за временной ошибки.

Очевидно, отменять заказ из-за кратковременного сетевого сбоя или истёкшего токена не хочется, поэтому такое сообщение логично попробовать обработать повторно. Интуитивное решение, которое не работаетПервой идеей было не коммитить offset и повторно прочитать это же сообщение. Интуитивно звучит разумно.

Отраслевые последствия

Но в Kafka это не работает как retry-механизм. Важно понимать: Kafka consumer коммитит не «сообщение», а offset — позицию в журнале. При этом у consumer есть две разные позиции:Current position — текущая позиция чтения, которую consumer локально держит в памяти.

Committed offset — сохранённая позиция в Kafka, с которой consumer начнёт читать после restart или rebalance. Важный нюанс: даже если сообщение не закоммитить, consumer обычно всё равно сдвигает свою текущую локальную позицию чтения. Это значит, что следующий fetch, как правило, прочитает уже следующее сообщение, а не текущее повторно.

Именно поэтому отсутствие commit само по себе не даёт повторной обработки сообщения. Иными словами, Kafka не предоставляет встроенного retry-механизма для отдельных сообщений «из коробки», и эту логику должен реализовывать сам разработчик. Как решили проблемуНа данном этапе решили выбрать самый простой вариант:без retry topics;без DLQ;без отдельного delayed retry pipeline.

Событие, по словам экспертов, усилит конкуренцию в сфере ИИ.