Ի՞նչ է հակառակորդի օրինակն ու FGSM հարձակումն։
sobes.tech AI
Պատասխան AI-ից
Ադվերսարիալ օրինակն այն մուտքային տվյալներն են, որոնք հատուկ կերպով փոփոխված են՝ նպատակ ունենալով խաբել մեքենայական ուսուցման մոդելը և ստիպել նրան սխալ եզրակացություն անել։ Այս օրինակները գրեթե նույնն են տեսանելիորեն սովորական տվյալների հետ, բայց առաջացնում են մոդելի սխալ աշխատանք։
FGSM (Fast Gradient Sign Method) — դա ամենահեշտ և ամենահաճախ օգտագործվող մեթոդներից մեկն է adversarial օրինակներ ստեղծելու համար։ Այն օգտագործում է մոդելի կորուստային ֆունկցիայի գրադիենտները մուտքի նկատմամբ՝ փոքր խանգարում ավելացնելու համար, որը առավելագույն կերպով մեծացնում է մոդելի սխալը։ Ֆորմալ կերպով՝
[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]
որտեղ՝
- (X) — սկզբնական մուտքը,
- (\epsilon) — խանգարման չափը,
- (J) — կորուստային ֆունկցիա,
- (\theta) — մոդելի պարամետրերը,
- (y) — ճշմարիտ նշանը։
Այսպիսով՝ FGSM արագորեն ստեղծում է օրինակներ, որոնք արդյունավետ կերպով խաբում են մոդելին, ինչը կարևոր է նրա դիմադրողականությունը գնահատելու և պաշտպանության մեթոդներ մշակելու համար։