Əks-təsir nümunəsi və FGSM hücumu nədir?

Əks-təsir nümunəsi — maşın öyrənmə modelini aldatmaq və onun səhv nəticə çıxarmasına səbəb olmaq üçün xüsusi olaraq dəyişdirilmiş giriş məlumatlarıdır. Bu nümunələr insanlar üçün demək olar ki, eynidir, lakin modelin düzgün işləməməsinə səbəb olur.

FGSM (Fast Gradient Sign Method) ən sadə və məşhur əks-təsir nümunələri yaratma metodlarından biridir. Bu, modelin itki funksiyasının girişə görə gradientlərini istifadə edərək, modelin səhvini maksimum artıran istiqamətdə kiçik bir pozuntunu əlavə edir. Rəsmi:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

burada:

• (X) orijinal girişdir,
• (\epsilon) pozuntunun miqdarını göstərir,
• (J) itki funksiyasıdır,
• (\theta) modelin parametrləridir,
• (y) həqiqi etiketdir.

Beləliklə, FGSM sürətlə, modeli effektiv şəkildə aldatmağa imkan verən nümunələr yaradır, bu da onun dayanıqlığını qiymətləndirmək və qoruma metodlarını inkişaf etdirmək üçün vacibdir.