Sobes.tech
Senior

Mi az a MPS (Multi-Process Service)?

sobes.tech MI

Válasz az MI-től

MPS (Multi-Process Service) egy mechanizmus, amelyet GPU és CUDA kontextusában használnak több folyamat egyidejű kezelésére, amelyek ugyanazt a grafikus processzort használják.

A MPS fő ötlete a GPU hatékonyságának növelése, lehetővé téve több kliensfolyamat számára, hogy megosszák a GPU erőforrásait anélkül, hogy folyamatok közötti kontextusváltásra lenne szükség, ez csökkenti a túlterhelést és növeli a sávszélességet.

Gépi tanulásban és nagy teljesítményű számításokban a MPS segít hatékonyabban futtatni párhuzamos feladatokat egyetlen GPU-n, javítva a terhelést és csökkentve a késleltetést.