Kas ir Triton (OpenAI) un kur tas ir ērtāk nekā CUDA C++?

Triton ir OpenAI izstrādāta programmēšanas valoda un kompilators, kas paredzēts augstas veiktspējas GPU kodolu rakstīšanai, īpaši mašīnmācīšanās uzdevumiem. Tas ļauj izstrādātājiem rakstīt kodu, kas ir līdzīgs Python sintaksei, bet ar efektīvu CUDA koda ģenerēšanu.

Triton priekšrocības salīdzinājumā ar CUDA C++:

• Augstāka abstrakcijas līmenis un ērtība rakstīt kodu, kas paātrina izstrādi.
• Optimizēts ML uzdevumiem, piemēram, matricu operācijām un konvolūcijām.
• Ļauj viegli eksperimentēt ar kodoliem bez dziļas CUDA detaļu izpratnes.

Piemērs Triton izmantošanai ir pielāgotu GPU kodolu rakstīšana operāciju optimizēšanai PyTorch.

Tādējādi Triton ir ērtāks nekā CUDA C++, ja ir svarīga ātra izstrāde un ML operāciju optimizācija bez nepieciešamības dziļi izprast CUDA zemā līmenī.