Mis on vasturääkiv näide ja FGSM rünnak?

Adversarial näide on sisendandmed, mis on spetsiaalselt muudetud, et petta masinõppemudelit ja viia see eksimisse. Sellised näited näevad peaaegu identsed välja tavapäraste andmetega inimese jaoks, kuid põhjustavad mudeli ebaõiget tööd.

FGSM (Fast Gradient Sign Method) on üks lihtsamaid ja populaarsemaid meetodeid adversaarsete näidete loomiseks. See kasutab mudeli kaotuse funktsiooni gradientide kasutamist sisendi suhtes, et lisada väike häire suunas, mis maksimeerib mudeli vea. Formaalselt:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

kus:

• (X) on algne sisend,
• (\epsilon) on häire suurus,
• (J) on kaotuse funktsioon,
• (\theta) on mudeli parameetrid,
• (y) on tõeline märgis.

Sel viisil genereerib FGSM kiiresti näiteid, mis tõhusalt petavad mudelit, mis on oluline selle vastupidavuse hindamisel ja kaitsemeetodite arendamisel.