Τι είναι η επίθεση PGD και γιατί είναι πιο ισχυρή από το FGSM;

PGD (Projected Gradient Descent) είναι μια μέθοδος δημιουργίας adversarial παραδειγμάτων για επιθέσεις σε νευρωνικά δίκτυα. Είναι μια επαναληπτική επέκταση του FGSM (Fast Gradient Sign Method).

FGSM είναι μια επίθεση με ένα βήμα που προσθέτει θόρυβο στην είσοδο προς την κατεύθυνση του σήματος του διανύσματος του γραμμικού βαθμίδα της λειτουργίας απώλειας:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

όπου ( \epsilon ) είναι το μέγεθος του βήματος.

PGD εφαρμόζει το FGSM πολλές φορές με προβολή του αποτελέσματος πίσω στον επιτρεπτό χώρο (π.χ., περιορισμός με βάση το ( L_\infty )-norm), επιτρέποντας την πιο ακριβή και αποτελεσματική εύρεση adversarial παραδειγμάτων:

1. Αρχικοποίηση με μικρό τυχαίο θόρυβο.
2. Επαναληπτική ενημέρωση: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

όπου ( \Pi_{\mathcal{B}_\epsilon(x)} ) είναι η προβολή στην ( \epsilon )-γειτονιά του αρχικού παραδείγματος.

Επομένως, το PGD είναι πιο ισχυρό από το FGSM, καθώς:

• Χρησιμοποιεί πολλά βήματα, επιτρέποντας την εύρεση πιο αποτελεσματικών και ανθεκτικών adversarial παραδειγμάτων.
• Η προβολή διασφαλίζει ότι η επίθεση παραμένει εντός των επιτρεπτών ορίων και δεν είναι πολύ ορατή.

Το PGD θεωρείται μία από τις πιο ισχυρές και καθολικές επιθέσεις στον τομέα της adversarial machine learning.