Масъулҳои муқобил ва ҳамлаи FGSM чӣ гуна аст?

Маслиҳатҳои душманона — ин маълумоти воридшудаи махсус барои моделҳои омӯзиши мошинӣ мебошанд, ки тақрибан ба маълумоти оддӣ монанданд, аммо моделро ба хато дар класификатсия ё қабули қарорҳои нодуруст водор месозанд. Ин мисолҳо заифии шабакаҳои нейронӣ-ро нишон медиҳанд.

FGSM (Методи рамзи суръатбахши градиент) яке аз усулҳои содда ва маъмул барои эҷоди мисолҳои душманона мебошад. Ният ин аст, ки ба тасвири аслӣ каме тағирот дар самти градиенти функсияи талафот дар нисбати воридот илова карда шавад, ки хатогии моделро максималӣ мекунад.

Формулаи FGSM:

x_{adv} = x + \epsilon \cdot \text{sign}(\nabla_x J(\theta, x, y))

ки дар он:

• x тасвири аслӣ аст,
• \epsilon рақами хурдест, ки андозаи тағиротро назорат мекунад,
• J функсияи талафот аст,
• \theta параметрҳои модел мебошанд,
• y тамғаи дуруст аст.

Бинобар ин, FGSM ба зудӣ намунаи фиребанда эҷод мекунад, ки барои арзёбии устуворӣ ва бехатарии моделҳо муҳим аст.