Sobes.tech
Senior
52

Има бекенд, има потребителски интерфейс. Стекът е стандартен: Java, Spring, React, Postgres. Задача: Проектирайте REST крайна точка, която трябва да вземе данни от 3 източника и да ги върне на UI, като осигури възможно най-голяма пропускателна способност и минимално време за отговор (критерии макс/мин според нашите конкретни условия, тъй като по същество няма магическо решение и трябва да се намери компромис). Знае се, че очакваният пик RPS за тази крайна точка ще бъде 200. Известни детайли за източниците: 1. Източник - нашата база данни, заявката отнема около 15 секунди. 2. Източник - свързан REST услуга, деградира до 2 минути при 100 RPS, в нормален режим отговаря за 5 секунди. Не можем да променим поведението на този източник. 3. Източник - свързан REST услуга, отговаря произволно (не са установени конкретни модели) с грешки 503, в нормален режим отговаря за 10 секунди. Не можем да променим поведението на този източник.

Компаниите бяха попитани
солюшин

Отговор от AI

sobes.tech AI

Для проектирования REST-эндпоинта с тремя источниками данных и учетом требований по пропускной способности и времени отклика, предлагаю следующий подход:

  1. Асинхронный параллельный запрос к источникам:

    • Запросы к базе и двум REST-сервисам выполняются параллельно, чтобы минимизировать общее время ожидания.
  2. Кеширование:

    • Для источника с долгим запросом к базе (15 сек) стоит реализовать кеширование результатов с разумным TTL, чтобы снизить нагрузку при пиковых запросах.
  3. Таймауты и fallback:

    • Для второго источника, который деградирует при высокой нагрузке, установить таймауты (например, 5-7 сек) и использовать кеш или возвращать частичные данные, если сервис не отвечает.
    • Для третьего источника, который иногда возвращает 503, реализовать повторные попытки с экспоненциальной задержкой и fallback на кеш или дефолтные данные.
  4. Реактивное программирование:

    • Использовать Spring WebFlux или CompletableFuture для неблокирующего выполнения запросов и объединения результатов.
  5. Агрегация и отдача данных:

    • После получения данных из всех источников агрегировать их в единый ответ.
    • Если какой-то источник не доступен, возвращать частичные данные с указанием статуса.
  6. Мониторинг и ограничение нагрузки:

    • Внедрить circuit breaker (например, Resilience4j) для защиты от деградации смежных сервисов.
    • Ограничить количество одновременных запросов к проблемным источникам.

Пример использования CompletableFuture для параллельного запроса:

CompletableFuture<Data1> future1 = CompletableFuture.supplyAsync(() -> fetchFromDb());
CompletableFuture<Data2> future2 = CompletableFuture.supplyAsync(() -> fetchFromService2());
CompletableFuture<Data3> future3 = CompletableFuture.supplyAsync(() -> fetchFromService3());

CompletableFuture.allOf(future1, future2, future3).join();

// Обработка результатов с учетом ошибок и таймаутов
Data1 d1 = future1.getNow(null);
Data2 d2 = future2.getNow(null);
Data3 d3 = future3.getNow(null);

// Формируем ответ
return aggregate(d1, d2, d3);

Таким образом, достигается баланс между скоростью отклика и надежностью, учитывая ограничения и особенности каждого источника.