Adversarial misol va FGSM hujumi nima?

Adversarial misol — bu ma'lumotlar, mashina o'qitish modelini aldaydigan va noto'g'ri xulosa qilishiga olib keladigan tarzda maxsus o'zgartirilgan kirish ma'lumotlaridir. Bunday misollar odatda inson uchun deyarli bir xil ko'rinadi, ammo modelning noto'g'ri ishlashiga olib keladi.

FGSM (Fast Gradient Sign Method) — adversarial misollar yaratishning eng oddiy va mashhur usullaridan biri. U modelning yo'qotish funktsiyasining kirishga nisbatan gradientlarini ishlatib, model xatosini maksimal darajada oshiradigan yo'nalishda kichik buzilish qo'shadi. Formal tarzda:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

bu yerda:

• (X) — asl kirish,
• (\epsilon) — buzilish miqdori,
• (J) — yo'qotish funktsiyasi,
• (\theta) — model parametrlari,
• (y) — haqiqiy belgi.

Shu tarzda, FGSM tezda, modelni samarali tarzda aldash uchun misollar yaratadi, bu uning chidamliligini baholash va himoya usullarini ishlab chiqish uchun muhimdir.