Чӣ тавр як ҳамлаи PGD ва дар чӣ гуна он аз FGSM қавитар аст?

PGD (Projected Gradient Descent) як усул барои эҷоди намунаҳои зиддиятнок барои ҳамлаҳо ба шабакаҳои нейронӣ мебошад. Ин васеъкунии такрорӣ аз FGSM (Fast Gradient Sign Method) мебошад.

FGSM як ҳамлаи якқадамӣ мебошад, ки ба воридот овоз дар самти нишони градиенти функсияи талафот илова мекунад:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

ки ( \epsilon ) андозаи қадам мебошад.

PGD FGSM-ро чанд маротиба истифода мебарад ва натиҷаро ба ҷойи иҷозатдодашуда (масалан, маҳдудият бо нормаи ( L_\infty )) бармегардонад, ки имкон медиҳад намунаҳои зиддиятнокро дақиқтар ва муассиртар пайдо кардан:

1. Бо садои хурд оғоз кардан.
2. Навсозии такрорӣ: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

ки ( \Pi_{\mathcal{B}_\epsilon(x)} ) проексияи дар атрофи ( \epsilon ) аз намунаи аслӣ мебошад.

Аз ин рӯ, PGD аз FGSM қавитар аст, зеро:

• Мултӣ қадамҳоро истифода мебарад, ки имкон медиҳад намунаҳои зиддиятноки бештар муассир ва тобовар пайдо кунанд.
• Проексия кафолат медиҳад, ки ҳамла дар ҳудудҳои иҷозатдодашуда боқӣ мемонад ва хеле намоён нест.

PGD ҳамчун яке аз ҳамлаҳои қавитар ва умумиҷуҳест дар соҳаи омӯзиши мошинҳои зиддиятнок.