Назад к задачам
Middle — Senior
2

Улучшение скорости передачи и обработки массивных потоков данных

Получайте помощь с лайвкодингом в реальном времени с Sobes Copilot
Условие задачи

Сервис принимает сетевой поток размером 2 ГБ, разбивает его на куски по 1 МБ, разрывая только на границе символа переноса строки, и помещает полученные блоки в очередь. Несколько реплик подписываются на эту очередь и обрабатывают данные, соблюдая гарантию «не более одного раза». Какие стратегии можно применить, чтобы повысить скорость обработки и передачи этих данных?