Model oğurluğu hücumu nədir və ona necə qarşı çıxmaq olar?

Model oğurluğu hücumu — bu hücumda zərərverici, yalnız onun API-yə (məsələn, sorğular və cavablar vasitəsilə) giriş əldə edərək, maşın öyrənmə modelini yenidən yaratmağa və ya kopyalamağa çalışır.

Necə işləyir:

• Hücumçu modelə çoxsaylı girişlər göndərir və cavablar alır.
• Bu giriş-çıxış cütlüklərinə əsaslanaraq, orijinalın davranışını təqlid edən öz modelini qurur.

Niyə bu təhlükəlidir:

• Əqli mülkiyyətin oğurlanması.
• Qorunmaları aşmaq və zərərli modellər yaratmaq imkanı.

Qoruma üsulları:

• Sorğu sayı və sürətini məhdudlaşdırmaq.
• Cavablara səs və ya təsadüfi dəyişikliklər əlavə etmək (fərqli gizlilik).
• Doğrulama və icazə metodlarından istifadə etmək.
• Anormal fəaliyyəti izləmək.

Beləliklə, qoruma xidmətin əlçatanlığı və təhlükəsizliyi arasında balans tələb edir.