PGD hücumu nədir və niyə FGSM-dən güclüdür?

PGD (Proyeksiyalı Gradient Enişi) neyron şəbəkələrinə hücum üçün adversarial nümunələr yaratmaq üçün istifadə olunan bir metodudur. Bu, FGSM (Tez Gradient İmza Metodu) metodunun təkrarlanan genişləndirilməsidir.

FGSM — bu bir addımlı hücumdur və girişə itki funksiyasının gradientinin işarəsinə doğru səs-küylü əlavə edir:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

burada ( \epsilon ) addım ölçüsüdür.

PGD FGSM-ni bir neçə dəfə tətbiq edir və nəticəni icazə verilən sahəyə (məsələn, ( L_\infty )-norm ilə məhdudlaşdırma) geri proyeksiya edir, bu da adversarial nümunələri daha dəqiq və effektiv tapmağa imkan verir:

1. Kiçik təsadüfi səs-küylə başlanğıc.
2. Təkrarlanan yeniləmə: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

burada ( \Pi_{\mathcal{B}_\epsilon(x)} ) orijinal nümunənin ( \epsilon )-yaxınlığında proyeksiyadır.

Buna görə, PGD FGSM-dən daha güclüdür, çünki:

• Bir neçə addım istifadə edir, bu da daha effektiv və dayanıqlı adversarial nümunələr tapmağa imkan verir.
• Proyeksiya hücumun icazə verilən sərhədlər daxilində qalmasını və çox görünməz olmasını təmin edir.

PGD adversarial maşın öyrənməsi sahəsində ən güclü və universal hücumlardan biri hesab olunur.