Ի՞նչ են հակառակորդային օրինակները և FGSM հարձակումները։

Դաշնային օրինակները հատուկ ստեղծված մուտքային տվյալներ են մեքենայական ուսուցման մոդելների համար, որոնք գրեթե նույնն են սովորական տվյալների հետ, բայց ստիպում են մոդելին սխալ դասակարգել կամ ընդունել սխալ որոշումներ: Այս օրինակները ցույց են տալիս նյարդային ցանցերի թերությունները:

FGSM (Արագ գրաֆիտի նշանի մեթոդ) — դա պարզ և հանրաճանաչ մեթոդներից մեկն է դաշնային օրինակներ ստեղծելու համար: Իդեան այն է, որ ավելացնել փոքր խանգարում սկզբնական պատկերին՝ կորուստի ֆունկցիայի գրաֆիտի ուղղությամբ, ինչը առավելագույնի հասցնում է մոդելի սխալը:

FGSM-ի բանաձևը՝

x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y))

որտեղ՝

• x սկզբնական պատկերն է,
• \epsilon փոքր թիվ է, որը վերահսկում է խանգարման չափը,
• J կորուստի ֆունկցիան է,
• \theta մոդելի պարամետրերն են,
• y ճիշտ նշանն է:

Այսպիսով, FGSM արագորեն ստեղծում է օրինակ, որը մոլորեցնում է մոդելին, ինչը կարևոր է մոդելների դիմադրողականությունն ու անվտանգությունը գնահատելու համար։