Масъалаи муқобил ва ҳамлаи FGSM чист?

Масалан, муқобил мисол — бу махсус ўzgartирилган кириш маълумотларидир, улар машина ўқитиш моделини адаштириш ва нотўғри хулоса чиқаришга олиб келади. Бундай мисоллар инсон учун деярли бир хил кўринади, аммо моделнинг нотўғри ишлашини олиб келади.

FGSM (Fast Gradient Sign Method) — энг содда ва машҳур усуллардан бири. У моделнинг йўқотиш функциясининг градиентларини киришга нисбатан ишлатиб, модел хато қилишини максимал даражада оширадиган кичик бузилиш қўшади. Ресми:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

бунда:

• (X) — оригинал кириш,
• (\epsilon) — бузилишнинг миқдори,
• (J) — йўқотиш функцияси,
• (\theta) — модел параметрлари,
• (y) — ҳақиқий белгила.

Шу тариқа, FGSM тезда, моделни самарали ўлмошга олиб келадиган мисоллар яратади, бу унинг бардошлигини баҳолаш ва ҳимоя усулларини ривожлантириш учун муҳимдир.