Como foi organizada a sua trabalho com Kafka? Como usavam os consumidores, os grupos de consumidores?

В нашей работе с Kafka использовали консюмеры для чтения сообщений из топиков. Консюмер-группы применялись для масштабирования обработки: несколько инстансов одного сервиса объединялись в группу, и Kafka распределяла партиции топика между ними.

Это позволяло параллельно обрабатывать сообщения без дублирования.

Пример организации:

• Каждый сервис запускал несколько консюмеров в одной группе.
• Kafka гарантировала, что каждое сообщение будет обработано ровно одним консюмером из группы.
• При падении одного консюмера его партиции перераспределялись между оставшимися.

Такой подход обеспечивал отказоустойчивость и балансировку нагрузки при обработке потоков данных.