Mi a különbség a memória-kötött és a számítás-kötött műveletek között?

Memóriakötött műveletek a memória hozzáférési sebességével korlátozottak. Ez azt jelenti, hogy az ilyen műveletek teljesítménye elsősorban attól függ, milyen gyorsan olvashatók vagy írhatók az adatok a memóriába. GPU és CUDA programozásban ez gyakran a memória sávszélességével és késleltetésével kapcsolatos.

Számítási korlátolt műveletek a processzor vagy mag számítási kapacitásával korlátozottak. Itt a szűk keresztmetszet az aritmetikai vagy logikai műveletek végrehajtási sebessége, nem az adatokhoz való hozzáférés.

Példa:

• Ha egy CUDA mag sok egyszerű műveletet végez az adatokon, amelyeket folyamatosan be kell tölteni a globális memóriából, akkor memória-kötött lesz.
• Ha egy mag összetettebb számításokat végez olyan adatokon, amelyek már gyorsan elérhetők (pl. megosztott memória vagy regiszterekben), akkor számítás-kötött lesz.

Az optimalizálás a művelet típusától függ: memória-kötött esetén — a memória hozzáférésének javítása (gyorsítótárazás, koalescens), számítás-kötött esetén — az algoritmusok optimalizálása és a speciális utasítások használata.