Kas yra MPS (Multi-Process Service)?

MPS (Daugelio procesų paslauga) — mechanizmas, naudojamas GPU ir CUDA kontekste, siekiant valdyti kelis procesus, kurie vienu metu naudoja tą patį grafikos procesorių.

Pagrindinė MPS idėja yra pagerinti GPU naudojimo efektyvumą, leidžiant keliems klientų procesams dalintis GPU ištekliais be poreikio keisti kontekstą tarp procesų, tai sumažina išlaidas ir padidina pralaidumą.

Mašininio mokymosi ir aukštos našumo skaičiavimuose MPS padeda efektyviau vykdyti paralelines užduotis viename GPU, gerindamas apkrovą ir mažindamas delsą.