Šta je PGD napad i po čemu je jači od FGSM?

PGD (Projected Gradient Descent) je metoda za kreiranje adversarijalnih primera za napade na neuronske mreže. To je iterativno proširenje FGSM (Fast Gradient Sign Method).

FGSM je jednokorak napad koji dodaje šum ulazu u pravcu znaka gradijenta funkcije gubitka:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

gde je ( \epsilon ) veličina koraka.

PGD primenjuje FGSM više puta sa projekcijom rezultata nazad u dozvoljeni prostor (na primer, ograničenje po ( L_\infty )-normi), što omogućava preciznije i efikasnije pronalaženje adversarijalnih primera:

1. Inicijalizacija sa malim slučajnim šumom.
2. Iterativno ažuriranje: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

gde je ( \Pi_{\mathcal{B}_\epsilon(x)} ) projekcija u okolinu ( \epsilon ) originalnog primera.

Zbog toga je PGD jači od FGSM, jer:

• Koristi više koraka, što omogućava pronalaženje efikasnijih i otpornijih adversarijalnih primera.
• Projekcija garantuje da napad ostaje unutar dozvoljenih granica i nije previše vidljiv.

PGD se smatra jednim od najmoćnijih i najuniverzalnijih napada u oblasti adversarial machine learning-a.