Paylaşılan bellek nedir ve neden kullanılır?

CUDA ve GPU bağlamında paylaşılan bellek, aynı blok içindeki tüm iş parçacıklarının erişebildiği bir bellek alanıdır. Bu bellek, GPU üzerinde bulunur ve düşük gecikme ve yüksek bant genişliği nedeniyle küresel belleğe göre çok daha hızlıdır.

Paylaşılan bellek kullanımı, yavaş küresel belleğe erişim ihtiyacını ortadan kaldırarak iş parçacıkları arasında verimli veri alışverişi sağlar. Bu, makine öğrenimi algoritmaları ve paralel hesaplamalar için özellikle önemlidir, çünkü sıklıkla ara sonuçların paylaşılması gerekebilir.

Örnek: konvolüsyonlar veya matris işlemleri uygulanırken, önce veriler paylaşılan belleğe yüklenebilir, hesaplamalar yapılabilir ve ardından sonuç küresel belleğe kaydedilebilir, bu da performansı önemli ölçüde artırır.

CUDA kod örneği:

__shared__ float tile[32][32];

int tx = threadIdx.x;
int ty = threadIdx.y;

// Verileri küresel bellekten paylaşılan belleğe yükle
tile[ty][tx] = input[y * width + x];
__syncthreads();

// Paylaşılan bellek verilerini hesaplamalarda kullan
float val = tile[ty][tx] * 2.0f;

// Sonucu tekrar küresel belleğe yaz
output[y * width + x] = val;

Bu şekilde, paylaşılan bellek performansı optimize etmeye yardımcı olur, çünkü küresel belleğe yapılan yavaş erişimlerin sayısını azaltır.