Senior

Projektowanie skalowalnego systemu komunikacji obsługującego 150 mln użytkowników, 75 mln DAU, 225 mln MAU, 1,2 mln odczytów / 300 tys. zapisów QPS, 5 mln użytkowników jednoczesnych, 60 PB nowych danych rocznie, wzrost o 30% rocznie, P99 <200 ms dla odczytu, <300 ms dla zapisu, SLA 99,95%. KONTEKST Należy zaprojektować rozproszony system komunikacji, podobny do WhatsApp, obsługujący czaty 1:1 i grupowe, zapewniający dostarczanie wiadomości, wyświetlanie statusów online użytkowników i przesyłanie plików multimedialnych (zdjęcia, wideo, audio). System musi zapewniać wysoką dostępność i niskie opóźnienia, obsługiwać wysoki poziom równoległości i skalować na poziomie globalnym. WYMAGANIA FUNKCYJNE - Obsługa czatów osobistych (1:1) i grupowych z możliwością dodawania/usuwania uczestników - Wysyłanie i odbieranie wiadomości tekstowych i plików multimedialnych Wymagania niefunkcjonalne: - Brak wyraźnej implementacji szyfrowania end-to-end na poziomie usług lub klientów, oprócz ogólnej adnotacji. - Brak jasnego opisu sharding i replikacji baz danych według chat_id lub user_id dla skalowalności i odporności na awarie. - Brak wyraźnego komponentu lub mechanizmu do obsługi offline synchronizacji wiadomości i potwierdzeń dostarczenia. - Nie jest jasne, jak realizowane jest równoważenie obciążenia między bazami danych a usługami, szczególnie przy szczytowych obciążeniach. Ważne punkty do rozważenia: (Diagram przedstawia architekturę z Load Balancer, API Gateway, Message Queue, Service, Cache, Database, Object Storage i CDN)

sobes.tech AI

Odpowiedź od AI

Для проектирования масштабируемого мессенджера с такими требованиями нужно учесть несколько ключевых аспектов:

1. Архитектура и масштабируемость:

Использовать микросервисную архитектуру с разделением по функционалу (чаты, сообщения, пользователи, мультимедиа).
Горизонтальное масштабирование сервисов и баз данных.
Шардинг данных по user_id или chat_id для распределения нагрузки.

2. Хранение данных:

Сообщения и метаданные — в распределённой NoSQL базе (например, Cassandra, ScyllaDB) для высокой записи и чтения.
Мультимедиа — в объектном хранилище (S3-подобном) с CDN для быстрой доставки.

3. Обработка сообщений:

Использование очередей сообщений (Kafka, RabbitMQ) для асинхронной обработки и доставки.
Гарантированная доставка с подтверждениями (delivery receipts).

4. Онлайн-статусы и presence:

Хранение статусов в быстром in-memory хранилище (Redis).
Публикация изменений через WebSocket или push-сервисы.

5. Балансировка нагрузки и отказоустойчивость:

Load balancer и API Gateway для распределения запросов.
Репликация баз данных и автоматическое переключение при сбоях.

6. Производительность и SLA:

Кэширование горячих данных.
Мониторинг и алертинг для быстрого реагирования.

7. Безопасность:

Общая аннотация про end-to-end шифрование, но без реализации.

Пример упрощённой схемы:

[Clients] -> [Load Balancer] -> [API Gateway] -> [Microservices]
                                   |
                                   -> [Message Queue] -> [Database]
                                   -> [Cache (Redis)]
                                   -> [Object Storage + CDN]

Важные узкие места:

Реализация офлайн-синхронизации и delivery receipts.
Балансировка нагрузки при пиковых нагрузках.
Шардинг и репликация для масштабируемости и отказоустойчивости.

Для достижения P99 <200 мс чтения и <300 мс записи необходимо оптимизировать пути данных, использовать кэширование и асинхронную обработку сообщений.

Poprzednia Dalej