Ce este un exemplu adversarial și un atac FGSM?

Un exemplu adversarial este date de intrare modificate special pentru a induce în eroare un model de învățare automată și a-l determina să tragă o concluzie eronată. Astfel de exemple arată aproape identic cu datele normale pentru o ființă umană, dar provoacă o funcționare greșită a modelului.

FGSM (Fast Gradient Sign Method) este una dintre cele mai simple și populare metode de creare a exemplelor adversariale. Utilizează gradientele funcției de pierdere a modelului în raport cu intrarea pentru a adăuga o perturbare mică în direcția care maximizează eroarea modelului. Formal:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

unde:

• (X) este intrarea originală,
• (\epsilon) este mărimea perturbării,
• (J) este funcția de pierdere,
• (\theta) sunt parametrii modelului,
• (y) este eticheta adevărată.

Astfel, FGSM generează rapid exemple care păcălesc eficient modelul, ceea ce este important pentru evaluarea robusteței sale și dezvoltarea metodelor de protecție.