Адверсариалдык мисал жана FGSM чабуулу эмнелер?

Адверсариалдык мисал — бул машиналык үйрөнүү моделин алдаган жана анын ката чыгаруусуна алып келген атайын өзгөртүлгөн кириш маалыматтары. Мындай мисалдар адам үчүн дээрлик бирдей көрүнөт, бирок моделдин туура эмес иштешине себеп болот.

FGSM (Fast Gradient Sign Method) — adversarial мисалдар түзүүдө эң жөнөкөй жана популярдуу ыкмалардын бири. Ал моделдин жоготуунун функциясынын градиенттерин киришке карата колдонуп, моделдин катасын максималдуу көбөйтчү кичинекей бузулушту кошот. Формалдуу:

[ X_{adv} = X + \epsilon \cdot \text{sign}(\nabla_X J(\theta, X, y)) ]

башта:

• (X) — оригинал кириш,
• (\epsilon) — бузулуштун өлчөмү,
• (J) — жоготуунун функциясы,
• (\theta) — моделдин параметрлери,
• (y) — чын белгиси.

Мындайча айтканда, FGSM тез арада моделди ийгиликтүү алдаган мисалдар түзүп, анын туруктуулугун баалоо жана коргоо ыкмаларын иштеп чыгуу үчүн маанилүү.