Kas ir MPS (Multi-Process Service)?

MPS (Daudzprocesu pakalpojums) ir mehānisms, kas tiek izmantots GPU un CUDA kontekstā, lai pārvaldītu vairākus procesus, kas vienlaikus izmanto to pašu grafisko procesoru.

Galvenā MPS ideja ir uzlabot GPU izmantošanas efektivitāti, ļaujot vairākām klientu procesiem dalīties ar GPU resursiem bez nepieciešamības pārslēgt kontekstu starp procesiem, kas samazina overhead un palielina caurlaidību.

Mašīnmācībā un augstas veiktspējas skaitļošanā MPS palīdz efektīvāk izpildīt paralēlas uzdevumus vienā GPU, uzlabojot slodzi un samazinot aizkaves.