PGD saldırısı nedir ve neden FGSM'den daha güçlüdür?

PGD (Projeksiyonlu Gradyan İnişi), sinir ağlarına saldırılar için adversarial örnekler oluşturmak amacıyla kullanılan bir yöntemdir. FGSM (Hızlı Gradyan İşaret Yöntemi) yönteminin yinelemeli bir genişlemesidir.

FGSM tek adımlı bir saldırıdır ve girişe kayıp fonksiyonunun gradyanının işaret yönünde gürültü ekler:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

burada ( \epsilon ) adım boyutudur.

PGD, FGSM'yi birden çok kez uygular ve sonucu izin verilen alana (örneğin, ( L_\infty )-normi sınırı) geri projeksiyon yapar, bu da adversarial örnekleri daha hassas ve etkili bir şekilde bulmayı sağlar:

1. Küçük rastgele gürültü ile başlatılır.
2. Yinelemeli güncelleme: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

burada ( \Pi_{\mathcal{B}_\epsilon(x)} ), orijinal örneğin ( \epsilon ) yakınlığına projeksiyondur.

Bu nedenle, PGD FGSM'den daha güçlüdür çünkü:

• Birden çok adım kullanır, bu da daha etkili ve dayanıklı adversarial örnekler bulmayı sağlar.
• Projeksiyon, saldırının izin verilen sınırlar içinde kalmasını ve çok fark edilmemesini sağlar.

PGD, adversarial makine öğrenmesi alanında en güçlü ve evrensel saldırılardan biri olarak kabul edilir.