Hədəflənmiş və hədəflənməmiş hücum nədir?

Maşın öyrənmə modellərinə qarşı hücumlar kontekstində (düşmən hücumları) hədəfli və hədəfsiz hücumlar fərqləndirilir:

• Hədəfli hücum (targeted attack): hücumçu giriş məlumatlarını dəyişməyə çalışır ki, model onları müəyyən, əvvəlcədən seçilmiş bir sinif (hədəf etiket) kimi təsnif etsin. Məqsəd — modelin bu sinfi səhvən proqnozlaşdırmasını təmin etmək.

• Hədəfsiz hücum (untargeted attack): məqsəd — təsnifat səhvi yaratmaq, hansı yanlış sinifin proqnozlaşdırılmasından asılı olmayaraq. Əsas məqsəd — modeli uğursuz etmək.

Nümunə:

• Görüntü tanıma sisteminə qarşı hədəfli hücumda, hücumçu istəyir ki, pişik şəkli "it" kimi təsnif olunsun.
• Hədəfsiz hücumda, pişik şəkli hər hansı başqa sinif kimi təsnif olunsa kifayətdir, "pişik" xaric.

Hədəfli hücumlar adətən daha çətindir, lakin daha təhlükəlidir, çünki hücumun nəticəsini idarə etməyə imkan verir.