Ce este o atac PGD și de ce este mai puternic decât FGSM?

PGD (Projected Gradient Descent) este o metodă de creare a exemplelor adversariale pentru atacuri asupra rețelelor neuronale. Este o extindere iterativă a FGSM (Fast Gradient Sign Method).

FGSM este un atac cu un singur pas care adaugă zgomot la intrare în direcția semnului gradientului funcției de pierdere:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

unde ( \epsilon ) este dimensiunea pasului.

PGD aplică FGSM de mai multe ori cu o proiecție a rezultatului înapoi în spațiul permis (de exemplu, restricție după norma ( L_\infty )), ceea ce permite găsirea mai precisă și mai eficientă a exemplelor adversariale:

1. Inițializare cu zgomot aleatoriu mic.
2. Actualizare iterativă: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

unde ( \Pi_{\mathcal{B}_\epsilon(x)} ) este proiecția în vecinătatea ( \epsilon ) a exemplului original.

Prin urmare, PGD este mai puternic decât FGSM, deoarece:

• Utilizează mai mulți pași, ceea ce permite găsirea unor exemple adversariale mai eficiente și rezistente.
• Proiecția asigură că atacul rămâne în limitele permise și nu este prea vizibil.

PGD este considerat unul dintre cele mai puternice și universale atacuri în domeniul învățării automate adversariale.