Что такое coalesced memory access?

Coalesced memory access — это оптимизация доступа к глобальной памяти GPU, при которой последовательные потоки в блоке обращаются к последовательным адресам памяти. Это позволяет объединить (coalesce) несколько отдельных запросов памяти в один или несколько более крупных, что значительно повышает пропускную способность и снижает задержки.

В архитектуре CUDA, когда потоки с соседними индексами обращаются к соседним адресам памяти, контроллер памяти может выполнить один общий запрос вместо множества мелких. Если доступы не коалесцируются (например, потоки обращаются к случайным адресам), производительность падает из-за большого количества отдельных операций чтения/записи.

Пример:

__global__ void kernel(int *data) {
    int idx = threadIdx.x + blockIdx.x * blockDim.x;
    // Коалесцированный доступ, если data расположено подряд
    int val = data[idx];
    // ...
}

Здесь, если data — массив, расположенный в памяти подряд, и idx у потоков идут подряд, доступ будет coalesced.

Таким образом, coalesced memory access — ключевой фактор для эффективного использования памяти на GPU.