რა არის PGD თავდასხმა და რა განასხვავებს მას FGSM-დან?

PGD (Projected Gradient Descent) არის მეთოდი ნეირონული ქსელების წინააღმდეგ შეტევებისთვის წინააღმდეგობრივი მაგალითების შექმნისთვის. ეს არის FGSM (Fast Gradient Sign Method)-ის განმეორებითი გაფართოება.

FGSM — ეს ერთკადამიანიანი თავდასხმაა, რომელიც დამატებით შორეულ სიგნალს აძლევს შეყვანას ზარალის ფუნქციის გრადიენტში:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

სადაც ( \epsilon ) არის ნაბიჯის ზომა.

PGD იყენებს FGSM-ს რამდენჯერმე და შედეგს უკან აბრუნებს დაშვებულ სივრცეში (მაგალითად, ( L_\infty )-ნორმით შეზღუდვა), რაც საშუალებას აძლევს უფრო ზუსტ და ეფექტურ წინააღმდეგობრივ მაგალითებს იპოვოს:

1. მცირე შემთხვევით შორეულობით დასაწყისი.
2. განმეორებითი განახლება: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

სადაც ( \Pi_{\mathcal{B}_\epsilon(x)} ) არის ორიგინალური მაგალითის ( \epsilon )-მახლობლობის პროექცია.

ამიტომ, PGD უფრო ძლიერიაო FGSM-თან შედარებით, რადგან:

• ის იყენებს რამდენიმე ნაბიჯს, რაც საშუალებას აძლევს უფრო ეფექტიან და მდგრად წინააღმდეგობრივ მაგალითებს იპოვოს.
• პროექცია უზრუნველყოფს, რომ თავდასხმა დარჩეს დაშვებულ საზღვრებში და ძალიან თვალშისაცემი არ იყოს.

PGD ითვლება ერთ-ერთ ყველაზე ძლიერ და უნივერსალურ თავდასხმად adversarial machine learning-ის სფეროში.