Cos'è l'accesso alla memoria coalesced?

L'accesso alla memoria coalescente è un'ottimizzazione dell'accesso alla memoria globale della GPU, in cui i thread sequenziali in un blocco accedono a indirizzi di memoria sequenziali. Questo permette di combinare (coalescere) più richieste di memoria individuali in una o più più grandi, aumentando significativamente la larghezza di banda e riducendo la latenza.

Nell'architettura CUDA, quando i thread con indici vicini accedono a indirizzi di memoria vicini, il controller di memoria può eseguire una singola richiesta comune invece di molte piccole. Se gli accessi non sono coalescenti (ad esempio, i thread accedono a indirizzi casuali), le prestazioni diminuiscono a causa del gran numero di operazioni di lettura/scrittura individuali.

Esempio:

__global__ void kernel(int *data) {
    int idx = threadIdx.x + blockIdx.x * blockDim.x;
    // Accesso coalescente se data è posizionata in memoria contigua
    int val = data[idx];
    // ...
}

Qui, se data è un array posizionato in memoria contigua e idx dei thread è sequenziale, l'accesso sarà coalescente.

Pertanto, l'accesso alla memoria coalescente è un fattore chiave per un uso efficiente della memoria sulla GPU.