Mis on MPS (Multi-Process Service)?

MPS (Multi-Process Service) on mehhanism, mida kasutatakse GPU ja CUDA kontekstis, et hallata mitut protsessi, mis kasutavad samaaegselt sama graafikaprotsessorit.

MPS-i peamine idee on parandada GPU kasutamise tõhusust, võimaldades mitmel kliendiprotsessil jagada GPU ressursse ilma vajaduseta protsesside vahel konteksti vahetada, mis vähendab ülekoormust ja suurendab läbilaskevõimet.

Masinõppes ja kõrge jõudlusega arvutustes aitab MPS tõhusamalt käivitada paralleelülesandeid ühel GPU-l, parandades koormust ja vähendades latentsust.