Tensor Cores нима ва кадом амалҳоро суръат мебахшад?

Tensor Cores — бу блоки махсуси дар GPU-ҳои муосир (масалан, NVIDIA Volta, Turing, Ampere), ки барои суръатбахшии амалиётҳои бо тензорҳо, махсусан дар вазифаҳои омӯзиши мошинӣ, пешбинӣ шудаанд.

Онҳо барои иҷрои амалиётҳои матрицавӣ бо дақиқии паст (FP16, INT8) оптимизатсия шудаанд, ки ба таври назаррас иҷроишро дар омӯзиш ва инференси шабакаҳои нейронӣ баланд мебардорад.

Амалиётҳои асосие, ки Tensor Cores-ро суръат мебахшанд:

• Муттаҳидсозии матрицавӣ (Matrix Multiply)
• Ҷамъоварии матрицавӣ (Matrix Accumulate)

Ин имкон медиҳад, ки ҳисобҳо дар шабакаҳои нейронӣ, махсусан дар қабатҳои конволютсионӣ ва пурра пайвастшуда, тезтар анҷом дода шаванд.

Масалан: ҳангоми омӯзиши модели омӯзиши амиқ бо истифода аз рамкаҳо, ки Tensor Cores-ро дастгирӣ мекунанд (масалан, TensorFlow, PyTorch), ҳисобҳои матрицавӣ тезтар иҷро мешаванд, ки вақти омӯзишро кӯтоҳ мекунад.