Kas ir CUTLASS?

CUTLASS (CUDA Templates for Linear Algebra Subroutines and Solvers) ir NVIDIA izstrādāta bibliotēka, kas paredzēta augstas veiktspējas aprēķiniem GPU, izmantojot CUDA. Tā nodrošina C++ šablonus efektīvām lineārās algebras operācijām, piemēram, matricu reizināšanai (GEMM), konvolūcijām un citām primitīviem skaitļošanas operācijām.

Galvenās CUTLASS īpašības:

• Izmanto C++ šablonus elastīgai konfigurēšanai un optimizācijai atbilstoši konkrētām GPU arhitektūrām.
• Atļauj izveidot augstas veiktspējas kodolus skaitļošanas operācijām ar peldošo punktu, tostarp FP16, FP32, FP64, kā arī tensoru kodolus (Tensor Cores).
• Ir paredzēts integrācijai plašākos mašīnmācīšanās un zinātniskās skaitļošanas ietvaros.

Piemērs CUTLASS lietošanai ir optimizētas matricu reizināšanas realizācija konkrētam GPU, kas ievērojami paātrina aprēķinus salīdzinājumā ar pamata realizācijām.

Tādējādi, CUTLASS ir jaudīgs rīks CUDA programmētājiem, kuri vēlas maksimāli izmantot GPU iespējas lineārās algebras un mašīnmācīšanās uzdevumiem.