Има бекенд, има и фронтенд. Стандардна технологијска стек: Java, Spring, React, Postgres. Задача: Пројектовати REST ендпоинт који треба да преузме податке из 3 извора и да их достави на UI, обезбеђујући максималну могућу пропусну способност и минимално могуће време одговора (критеријуми максимум/минимум према нашим конкретним условима, јер у суштини нема чаробног решења и треба наћи компромис). Познато је да ће очекивани врх RPS за овај REST ендпоинт бити 200. Детаљи о изворима: 1. извор - наша база података, упит траје око 3 секунде. 2. извор - сродна REST услуга, деградира до 2 минута при 100 RPS, у нормалном режиму одговара за 5 секунди. Не можемо променити понашање овог извора. 3. извор - други сродни REST услуга, одговара случајно са 503 грешкама (без јасног образца), у нормалном режиму одговара за 10 секунди. Не можемо променити понашање овог извора.

Для проектирования REST-эндпоинта с тремя источниками данных и требованиями по максимальной пропускной способности и минимальному времени отклика, учитывая особенности источников, можно предложить следующий подход:

1. Асинхронный вызов источников:

   • Запрос к базе (3 сек) можно выполнять параллельно с вызовами к REST-сервисам.
   • Вызовы к двум REST-сервисам также выполнять параллельно.

2. Кэширование:

   • Для второго источника, который деградирует при высокой нагрузке, стоит использовать кэширование результатов, чтобы снизить количество запросов к нему.
   • Кэш можно обновлять с определённой периодичностью или по событию.

3. Обработка ошибок и таймауты:

   • Для третьего источника, который может отдавать 503, нужно реализовать механизм повторных попыток с экспоненциальной задержкой и fallback (например, возвращать последние успешные данные или заглушку).
   • Установить разумные таймауты для всех запросов, чтобы не блокировать ответ UI.

4. Пул потоков и ограничение параллелизма:

   • Для REST-сервисов использовать пул потоков с ограничением количества одновременных запросов, чтобы не перегружать внешние сервисы.

5. Сбор и агрегация данных:

   • После получения данных из всех источников агрегировать их и отдать UI.

6. Мониторинг и метрики:

   • Внедрить мониторинг времени отклика и ошибок, чтобы оперативно реагировать на деградацию.

Пример упрощённого кода на Java с использованием CompletableFuture:

CompletableFuture<Data1> dbFuture = CompletableFuture.supplyAsync(() -> fetchFromDb());
CompletableFuture<Data2> service2Future = CompletableFuture.supplyAsync(() -> fetchFromService2WithCache());
CompletableFuture<Data3> service3Future = CompletableFuture.supplyAsync(() -> fetchFromService3WithRetry());

CompletableFuture.allOf(dbFuture, service2Future, service3Future).join();

Data1 d1 = dbFuture.get();
Data2 d2 = service2Future.get();
Data3 d3 = service3Future.get();

Response response = aggregate(d1, d2, d3);
return response;

Таким образом, достигается баланс между временем отклика и нагрузкой на внешние сервисы, а также обеспечивается устойчивость к ошибкам.