MPS (Multi-Process Service) nedir?

MPS (Çoklu İşlem Servisi) — GPU ve CUDA bağlamında, aynı grafik işlemciyi aynı anda kullanan birden fazla işlemi yönetmek için kullanılan bir mekanizmadır.

MPS'nin temel fikri, GPU kullanım verimliliğini artırmak, birkaç müşteri işleminin GPU kaynaklarını paylaşmasına izin vermek, böylece işlemler arasında bağlam değiştirmeye gerek kalmadan, bu da maliyetleri azaltır ve bant genişliğini artırır.

Makine öğrenimi ve yüksek performanslı hesaplamalarda, MPS, tek bir GPU üzerinde paralel görevleri daha verimli çalıştırmaya yardımcı olur, yükü artırır ve gecikmeleri azaltır.