Sobes.tech
Middle+
88

Van egy backend, van egy frontend. Szabványos technológiai verem: Java, Spring, React, Postgres. Feladat: Tervezzen egy REST végpontot, amely három forrásból származó adatokat kell lekérnie és átadnia az UI-nak, miközben a lehető legnagyobb átviteli képességet és a lehető legkisebb válaszidőt biztosítja (max/min kritériumok a saját feltételeink szerint, mivel alapvetően nincs varázsszer és kompromisszumot kell találni). Tudjuk, hogy ennek a REST végpontnak a várt csúcs RPS értéke 200. Ismert részletek a forrásokról: 1. Forrás - saját adatbázisunk, a lekérdezés kb. 3 másodperc. 2. Forrás - egy kapcsolódó REST-szolgáltatás, 100 RPS alatt akár 2 percig is degradálódik, normál módban 5 másodperc alatt válaszol. Nem tudjuk megváltoztatni ennek a forrásnak a viselkedését. 3. Forrás - egy másik kapcsolódó REST-szolgáltatás, véletlenszerűen 503-as hibákat ad (nem sikerült mintát találni), normál módban 10 másodperc alatt válaszol. Nem tudjuk megváltoztatni ennek a forrásnak a viselkedését.

Cégeket kérdeztek
СБЕРСБЕР

Válasz az MI-től

sobes.tech MI

Для проектирования REST-эндпоинта с тремя источниками данных и требованиями по максимальной пропускной способности и минимальному времени отклика, учитывая особенности источников, можно предложить следующий подход:

  1. Асинхронный вызов источников:

    • Запрос к базе (3 сек) можно выполнять параллельно с вызовами к REST-сервисам.
    • Вызовы к двум REST-сервисам также выполнять параллельно.
  2. Кэширование:

    • Для второго источника, который деградирует при высокой нагрузке, стоит использовать кэширование результатов, чтобы снизить количество запросов к нему.
    • Кэш можно обновлять с определённой периодичностью или по событию.
  3. Обработка ошибок и таймауты:

    • Для третьего источника, который может отдавать 503, нужно реализовать механизм повторных попыток с экспоненциальной задержкой и fallback (например, возвращать последние успешные данные или заглушку).
    • Установить разумные таймауты для всех запросов, чтобы не блокировать ответ UI.
  4. Пул потоков и ограничение параллелизма:

    • Для REST-сервисов использовать пул потоков с ограничением количества одновременных запросов, чтобы не перегружать внешние сервисы.
  5. Сбор и агрегация данных:

    • После получения данных из всех источников агрегировать их и отдать UI.
  6. Мониторинг и метрики:

    • Внедрить мониторинг времени отклика и ошибок, чтобы оперативно реагировать на деградацию.

Пример упрощённого кода на Java с использованием CompletableFuture:

CompletableFuture<Data1> dbFuture = CompletableFuture.supplyAsync(() -> fetchFromDb());
CompletableFuture<Data2> service2Future = CompletableFuture.supplyAsync(() -> fetchFromService2WithCache());
CompletableFuture<Data3> service3Future = CompletableFuture.supplyAsync(() -> fetchFromService3WithRetry());

CompletableFuture.allOf(dbFuture, service2Future, service3Future).join();

Data1 d1 = dbFuture.get();
Data2 d2 = service2Future.get();
Data3 d3 = service3Future.get();

Response response = aggregate(d1, d2, d3);
return response;

Таким образом, достигается баланс между временем отклика и нагрузкой на внешние сервисы, а также обеспечивается устойчивость к ошибкам.