Sobes.tech
Back to tasks
Middle — Senior
47

Улучшение скорости передачи и обработки массивных потоков данных

Get help with live coding in real time with Sobes Copilot
Task condition

Сервис принимает сетевой поток размером 2 ГБ, разбивает его на куски по 1 МБ, разрывая только на границе символа переноса строки, и помещает полученные блоки в очередь. Несколько реплик подписываются на эту очередь и обрабатывают данные, соблюдая гарантию «не более одного раза». Какие стратегии можно применить, чтобы повысить скорость обработки и передачи этих данных?