В нашей работе с Kafka использовали консюмеры для чтения сообщений из топиков. Консюмер-группы применялись для масштабирования обработки: несколько инстансов одного сервиса объединялись в группу, и Kafka распределяла партиции топика между ними.

Это позволяло параллельно обрабатывать сообщения без дублирования.

Пример организации:

Каждый сервис запускал несколько консюмеров в одной группе.
Kafka гарантировала, что каждое сообщение будет обработано ровно одним консюмером из группы.
При падении одного консюмера его партиции перераспределялись между оставшимися.

Такой подход обеспечивал отказоустойчивость и балансировку нагрузки при обработке потоков данных.

Как у вас была организована работа с Kafka? Как использовали консюмеры, консюмер-группы?