Čo je MPS (Multi-Process Service)?

MPS (Multi-Process Service) je mechanizmus používaný v kontexte GPU a CUDA na správu viacerých procesov, ktoré súčasne využívajú rovnaký grafický procesor.

Hlavnou myšlienkou MPS je zvýšiť efektívnosť využívania GPU tým, že umožní viacerým klientským procesom zdieľať zdroje GPU bez potreby prepínania kontextu medzi procesmi, čo znižuje režijné náklady a zvyšuje priepustnosť.

V strojovom učení a vysokovýkonných výpočtoch MPS pomáha efektívnejšie spúšťať paralelné úlohy na jednom GPU, zlepšuje zaťaženie a znižuje latencie.