Wat is MPS (Multi-Process Service)?

MPS (Multi-Process Service) is een mechanisme dat wordt gebruikt in de context van GPU en CUDA om meerdere processen te beheren die tegelijkertijd dezelfde grafische processor gebruiken.

Het belangrijkste idee van MPS is om de efficiëntie van GPU-gebruik te verbeteren door meerdere klantprocessen toe te staan om GPU-bronnen te delen zonder dat er tussen processen van context hoeft te worden gewisseld, wat de overhead vermindert en de doorvoer verhoogt.

In machine learning en high-performance computing helpt MPS om parallelle taken op één GPU efficiënter uit te voeren, de belasting te verbeteren en latenties te verminderen.