Senior
Co je MPS (Multi-Process Service)?
sobes.tech AI
Odpověď od AI
MPS (Multi-Process Service) je mechanismus používaný v kontextu GPU a CUDA k řízení více procesů, které současně využívají stejný grafický procesor.
Hlavní myšlenkou MPS je zvýšit efektivitu využití GPU tím, že umožní několika klientským procesům sdílet zdroje GPU bez nutnosti přepínání kontextu mezi procesy, což snižuje režii a zvyšuje propustnost.
Ve strojovém učení a výpočtech vysokého výkonu pomáhá MPS efektivněji spouštět paralelní úlohy na jednom GPU, zlepšuje zatížení a snižuje latence.