Ի՞նչ է PGD հարձակումն ու ինչու է այն ավելի ուժեղ FGSM-ից։

PGD (Projected Gradient Descent) մեթոդ է նեյրոնային ցանցերի հարձակումների համար հակառակ օրինակներ ստեղծելու համար: Դա FGSM (Fast Gradient Sign Method)-ի կրկնվող ընդլայնումն է:

FGSM — դա միակ քայլով հարձակում է, որը ավելացնում է աղմուկ մուտքի վրա՝ ուղղությամբ կորուստի ֆունկցիայի գրադիենտի նշանի:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

որտեղ ( \epsilon ) քայլի չափն է:

PGD կիրառվում է FGSM-ը մի քանի անգամ՝ արդյունքը վերադարձնելով թույլատրելի տարածք (օրինակ՝ ( L_\infty )-նորմի սահմանափակմամբ), ինչը թույլ է տալիս ավելի ճշգրիտ և արդյունավետ գտնել հակառակ օրինակներ:

1. Փոքր պատահական աղմուկով սկզբնականացում:
2. Կրկնվող թարմացումներ՝ [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

որտեղ ( \Pi_{\mathcal{B}_\epsilon(x)} ) — էական օրինակի ( \epsilon )-մոտությունը:

Այսպիսով, PGD-ն ավելի ուժեղ է FGSM-ից, քանի որ՝

• Օգտագործում է մի քանի քայլ, ինչը թույլ է տալիս ավելի արդյունավետ և դիմացկուն հակառակ օրինակներ գտնել:
• Պրոյեկցիան ապահովում է, որ հարձակումն մնա թույլատրելի սահմաններում և շատ նկատելի չլինի:

PGD-ն համարվում է ամենաուժեղ և ամենամասուն հարձակումներից մեկը հակառակ մեքենայական ուսուցման ոլորտում: