Есть бэкенд, есть юай. Стек стандартный: Java, Spring, React, Postgres. Задача: Спроектировать рест-эндпоинт в котором надо взять данные из 3 источников и отдать на ui, при этом необходимо обеспечить максимально возможную пропускную способность и минимально возможное время отклика (критерии макс\мин исходя из наших конкретных условий, т.к. по сути, у нас тут нет серебряной пули и надо найти некий компромисс). Известно, что ожидаемый пиковый rps на этот рест-эндпоинт будет равен 200. Известные детали по источникам: 1 источник - наша бд, запрос около 15 сек. 2 источник - смежный сервис рест, деградирует до 2 минут при 100 rps на него, в норм режиме ответ отдает за 5 сек. Мы не можем как-то изменить поведение этого источника на их стороне. 3 источник - смежный сервис рест, рандомно (каких-либо паттернов такого поведения не удалось выяснить) отдает 503, в норм режиме ответ приходит за 10 сек. Мы не можем как-то изменить поведение этого источника на их стороне.

Для проектирования REST-эндпоинта с тремя источниками данных и учетом требований по пропускной способности и времени отклика, предлагаю следующий подход:

1. Асинхронный параллельный запрос к источникам:

   • Запросы к базе и двум REST-сервисам выполняются параллельно, чтобы минимизировать общее время ожидания.

2. Кеширование:

   • Для источника с долгим запросом к базе (15 сек) стоит реализовать кеширование результатов с разумным TTL, чтобы снизить нагрузку при пиковых запросах.

3. Таймауты и fallback:

   • Для второго источника, который деградирует при высокой нагрузке, установить таймауты (например, 5-7 сек) и использовать кеш или возвращать частичные данные, если сервис не отвечает.
   • Для третьего источника, который иногда возвращает 503, реализовать повторные попытки с экспоненциальной задержкой и fallback на кеш или дефолтные данные.

4. Реактивное программирование:

   • Использовать Spring WebFlux или CompletableFuture для неблокирующего выполнения запросов и объединения результатов.

5. Агрегация и отдача данных:

   • После получения данных из всех источников агрегировать их в единый ответ.
   • Если какой-то источник не доступен, возвращать частичные данные с указанием статуса.

6. Мониторинг и ограничение нагрузки:

   • Внедрить circuit breaker (например, Resilience4j) для защиты от деградации смежных сервисов.
   • Ограничить количество одновременных запросов к проблемным источникам.

Пример использования CompletableFuture для параллельного запроса:

CompletableFuture<Data1> future1 = CompletableFuture.supplyAsync(() -> fetchFromDb());
CompletableFuture<Data2> future2 = CompletableFuture.supplyAsync(() -> fetchFromService2());
CompletableFuture<Data3> future3 = CompletableFuture.supplyAsync(() -> fetchFromService3());

CompletableFuture.allOf(future1, future2, future3).join();

// Обработка результатов с учетом ошибок и таймаутов
Data1 d1 = future1.getNow(null);
Data2 d2 = future2.getNow(null);
Data3 d3 = future3.getNow(null);

// Формируем ответ
return aggregate(d1, d2, d3);

Таким образом, достигается баланс между скоростью отклика и надежностью, учитывая ограничения и особенности каждого источника.