Τι είναι ένα adversarial παράδειγμα και μια επίθεση FGSM;

Ένα adversarial παράδειγμα είναι δεδομένα εισόδου που τροποποιούνται ειδικά έτσι ώστε να παραπλανήσουν ένα μοντέλο μηχανικής μάθησης και να το οδηγήσουν σε λανθασμένο συμπέρασμα. Αυτά τα παραδείγματα μοιάζουν σχεδόν πανομοιότυπα με τα κανονικά δεδομένα για έναν άνθρωπο, αλλά προκαλούν λανθασμένη λειτουργία του μοντέλου.

Το FGSM (Fast Gradient Sign Method) είναι μία από τις πιο απλές και δημοφιλείς μεθόδους δημιουργίας adversarial παραδειγμάτων. Χρησιμοποιεί τα διανύσματα κλίσης της λειτουργίας απώλειας του μοντέλου σε σχέση με την είσοδο, για να προσθέσει μια μικρή διαταραχή στην κατεύθυνση που μεγιστοποιεί το σφάλμα του μοντέλου. Τυπικά:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

όπου:

• (X) είναι η αρχική είσοδος,
• (\epsilon) είναι το μέγεθος της διαταραχής,
• (J) είναι η λειτουργία απώλειας,
• (\theta) είναι οι παράμετροι του μοντέλου,
• (y) είναι η πραγματική ετικέτα.

Έτσι, το FGSM δημιουργεί γρήγορα παραδείγματα που παραπλανούν αποτελεσματικά το μοντέλο, κάτι που είναι σημαντικό για την αξιολόγηση της ανθεκτικότητάς του και την ανάπτυξη μεθόδων προστασίας.