Kas yra priešiškas pavyzdys ir FGSM ataka?
sobes.tech AI
Atsakymas iš AI
Adversarinis pavyzdys — tai įvesties duomenys, kurie specialiai modifikuoti taip, kad apgautų mašininio mokymosi modelį ir priverstų jį padaryti klaidingą išvadą. Tokie pavyzdžiai atrodo beveik identiškai įprastiems duomenims žmogui, tačiau sukelia netinkamą modelio veikimą.
FGSM (Fast Gradient Sign Method) yra viena iš paprasčiausių ir populiariausių būdų kurti adversarinius pavyzdžius. Ji naudoja modelio nuostolio funkcijos gradientus pagal įvestį, kad pridėtų mažą trikdį kryptimi, kuri maksimaliai padidina modelio klaidą. Formaliai:
[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]
kur:
- (X) yra pradinė įvestis,
- (\epsilon) yra trikdžio dydis,
- (J) yra nuostolio funkcija,
- (\theta) yra modelio parametrai,
- (y) yra teisinga žymė.
Taip FGSM greitai generuoja pavyzdžius, kurie efektyviai apgauna modelį, tai svarbu vertinant jo atsparumą ir kuriant apsaugos metodus.