Šta je adversarialni primer i FGSM napad?

Adversarial primer je ulazni podatak koji je posebno modifikovan tako da zbuni model mašinskog učenja i navede ga na pogrešan zaključak. Takvi primeri izgledaju gotovo identično običnim podacima za čoveka, ali izazivaju neispravno funkcionisanje modela.

FGSM (Fast Gradient Sign Method) je jedan od najjednostavnijih i najpopularnijih metoda za kreiranje adversarialnih primera. Koristi gradijente funkcije gubitka modela u odnosu na ulaz da bi dodao malu uznemirenost u pravcu koji maksimalno povećava grešku modela. Formalno:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

gde:

• (X) je originalni ulaz,
• (\epsilon) je veličina uznemirenosti,
• (J) je funkcija gubitka,
• (\theta) su parametri modela,
• (y) je tačna oznaka.

Na ovaj način, FGSM brzo generiše primere koji efikasno obmanjuju model, što je važno za procenu njegove otpornosti i razvoj metoda zaštite.