Mis on jagatud mälu ja miks seda kasutada?

Jagatud mälu GPU ja CUDA kontekstis on mälu piirkond, mis on kättesaadav kõigile niitidele ühe niidibloki jooksul. See asub otse GPU-l ja on palju kiirem kui globaalmälu, kuna sellel on madal latentsus ja kõrge läbilaskevõime.

Jagatud mälu kasutamine võimaldab tõhusalt vahetada andmeid bloki niitide vahel ilma vajaduseta aeglase globaalmälu kasutamiseks. See on eriti oluline masinõppe algoritmide ja paralleelarvutuste puhul, kus sageli on vaja jagada vahepealseid tulemusi.

Näide: konvolutsioonide või maatriksoperatsioonide rakendamisel saab esmalt laadida andmed jagatud mälu, teha arvutused ja seejärel kirjutada tulemus tagasi globaalmälu, mis oluliselt kiirendab täitmist.

CUDA koodi näide:

__shared__ float tile[32][32];

int tx = threadIdx.x;
int ty = threadIdx.y;

// Andmete laadimine globaalmäluist jagatud mälu
tile[ty][tx] = input[y * width + x];
__syncthreads();

// Andmete kasutamine arvutustes
float val = tile[ty][tx] * 2.0f;

// Tulemus kirjutamine tagasi globaalmälu
output[y * width + x] = val;

Sellisel viisil aitab jagatud mälu optimeerida jõudlust, vähendades aeglaste globaalmälu juurdepääsude arvu.