Τι είναι η κοινόχρηστη μνήμη και γιατί να τη χρησιμοποιήσετε;

Η κοινόχρηστη μνήμη στο πλαίσιο της GPU και CUDA είναι μια περιοχή μνήμης προσβάσιμη από όλα τα νήματα μέσα σε ένα μπλοκ νημάτων. Βρίσκεται στην ίδια την GPU και είναι πολύ πιο γρήγορη από τη διεθνή μνήμη, καθώς έχει χαμηλή καθυστέρηση και υψηλό εύρος ζώνης.

Η χρήση κοινόχρηστης μνήμης επιτρέπει την αποτελεσματική ανταλλαγή δεδομένων μεταξύ των νημάτων του μπλοκ χωρίς την ανάγκη πρόσβασης στη αργή διεθνή μνήμη. Αυτό είναι ιδιαίτερα σημαντικό για αλγόριθμους μηχανικής μάθησης και παράλληλους υπολογισμούς, όπου συχνά απαιτείται η κοινή χρήση ενδιάμεσων αποτελεσμάτων.

Παράδειγμα: κατά την υλοποίηση συνελίξεων ή λειτουργιών μήτρας, τα δεδομένα μπορούν πρώτα να φορτωθούν στη κοινόχρηστη μνήμη, να εκτελεστούν οι υπολογισμοί και στη συνέχεια το αποτέλεσμα να γραφεί στη διεθνή μνήμη, επιταχύνοντας σημαντικά την εκτέλεση.

Παράδειγμα κώδικα CUDA:

__shared__ float tile[32][32];

int tx = threadIdx.x;
int ty = threadIdx.y;

// Φόρτωση δεδομένων από τη διεθνή μνήμη στη κοινόχρηστη
tile[ty][tx] = input[y * width + x];
__syncthreads();

// Χρήση των δεδομένων από την κοινόχρηστη μνήμη για υπολογισμούς
float val = tile[ty][tx] * 2.0f;

// Εγγραφή του αποτελέσματος πίσω στη διεθνή μνήμη
output[y * width + x] = val;

Έτσι, η κοινόχρηστη μνήμη βοηθά στη βελτιστοποίηση της απόδοσης μειώνοντας τον αριθμό των αργών προσβάσεων στη διεθνή μνήμη.