PGD чабуулу эмне жана ал FGSMдан эмнеси менен күчтүү?

PGD (Projected Gradient Descent) — бул нейрондук тармактарга каршы чабуулдар үчүн каршы мисалдар түзүү ыкмасы. Ал FGSM (Fast Gradient Sign Method) ыкмасының кайталанган кеңейтүүсү.

FGSM — бул бир кадамдуу чабуул, ал киргизүүгө зыяндуу шуу кошот, ал чыгуу функциясынын градиентинин белгилеринин багытында:

[ x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y)) ]

мында ( \epsilon ) кадамдын өлчөмү.

PGD — бул FGSMны бир нече жолу колдонуп, натыйжаны кайра уруксат берилген кеңейтүүгө (мисалы, ( L_\infty )-нормасы менен чектөө) проекциялайт, бул каршы мисалдарды так жана натыйжалуу табууга мүмкүндүк берет:

1. Кичинекей кездейсөз шуу менен баштоо.
2. Итермелүү жаңыртуу: [ x_{adv}^{t+1} = \Pi_{\mathcal{B}\epsilon(x)} \left( x{adv}^t + \alpha \cdot \text{sign}(\nabla_x J(\theta, x_{adv}^t, y)) \right) ]

мында ( \Pi_{\mathcal{B}_\epsilon(x)} ) — оригиналдуу мисалдын ( \epsilon )-жакындуулугундагы проекция.

Ошондуктан, PGD FGSMден күчтүү, анткени:

• Ал бир нече кадамдарды колдонуп, натыйжалуу жана туруктуу каршы мисалдарды табууга мүмкүндүк берет.
• Проекция чабуулдун уруксат берилген чектеринде калуусун камсыздайт жана өтө көрүнбөйт.

PGD — бул adversarial машиналык үйрөнүү тармагында эң күчтүү жана универсалдуу чабуулдардын бири.