Kas ir koplietojama atmiņa un kāpēc to izmantot?

Dalītais atmiņas GPU un CUDA kontekstā ir atmiņas apgabals, kas ir pieejams visiem pavedieniem vienā pavedienu blokā. Tas atrodas pašā GPU un ir daudz ātrāks nekā globālā atmiņa, jo tam ir zema latentība un augsta joslas platuma josla.

Dalītās atmiņas izmantošana ļauj efektīvi apmainīties ar datiem starp bloka pavedieniem bez nepieciešamības piekļūt lēnajai globālajai atmiņai. Tas ir īpaši svarīgi mašīnmācības algoritmos un paralēlajās aprēķinos, kur bieži nepieciešams koplietot starpposma rezultātus.

Piemērs: konvolūciju vai matricu operāciju īstenošanā, dati vispirms var tikt ielādēti dalītajā atmiņā, veikt aprēķinus un pēc tam rezultātu ierakstīt atpakaļ globālajā atmiņā, kas ievērojami paātrina izpildi.

CUDA koda piemērs:

__shared__ float tile[32][32];

int tx = threadIdx.x;
int ty = threadIdx.y;

// Datu ielāde no globālās atmiņas uz dalīto atmiņu
tile[ty][tx] = input[y * width + x];
__syncthreads();

// Datu izmantošana aprēķinos
float val = tile[ty][tx] * 2.0f;

// Rezultāta ierakstīšana atpakaļ globālajā atmiņā
output[y * width + x] = val;

Šādā veidā dalītā atmiņa palīdz optimizēt veiktspēju, samazinot lēnu piekļuvi globālajai atmiņai.