Mis on PGD rünnak ja kuidas see on tugevam kui FGSM?

PGD (Projected Gradient Descent) on meetod, kuidas luua vasturääkivaid näiteid närvivõrkude rünnakuteks. See on FGSM (Fast Gradient Sign Method) iteratiivne laiendus.

FGSM on ühe sammu rünnak, mis lisab sisendile müra suunas, mis on määratud kahjumifunktsiooni gradienti märgiga:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

kus ( \epsilon ) on sammu suurus.

PGD kasutab FGSM-i mitu korda koos tulemuse projektsiooniga tagasi lubatud ruumi (näiteks piirang ( L_\infty )-normiga), mis võimaldab täpsemalt ja tõhusamalt leida vasturääkivaid näiteid:

1. Alustamine väikese juhusliku müraga.
2. Iteratiivne uuendamine: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

kus ( \Pi_{\mathcal{B}_\epsilon(x)} ) on projektsioon originaalnäite ( \epsilon )-lähedusse.

Seetõttu on PGD tugevam kui FGSM, kuna:

• See kasutab mitmeid samme, mis võimaldavad leida tõhusamaid ja vastupidavamaid vasturääkivaid näiteid.
• Projektsioon tagab, et rünnak jääb lubatud piiridesse ega ole liiga nähtav.

PGD peetakse üheks kõige võimsamaks ja universaalsemaks rünnakuks adversarial machine learningi valdkonnas.