Czym jest MPS (Multi-Process Service)?

MPS (Usługa Wieloprocesowa) to mechanizm używany w kontekście GPU i CUDA do zarządzania wieloma procesami, które jednocześnie korzystają z tego samego procesora graficznego.

Głównym pomysłem MPS jest zwiększenie efektywności wykorzystania GPU, umożliwiając kilku klientom dzielenie zasobów GPU bez konieczności przełączania kontekstu między procesami, co zmniejsza koszty i zwiększa przepustowość.

W uczeniu maszynowym i obliczeniach wysokiej wydajności, MPS pomaga w bardziej efektywnym uruchamianiu równoległych zadań na jednym GPU, poprawiając obciążenie i zmniejszając opóźnienia.