რა არის მიზნობრივი და მიუკერძოებელი თავდასხმა?

მანქანათმეცნიერების მოდელებზე თავდასხმების (adversarial attacks) კონტექსტში განასხვავებენ მიზნობრივ და არასამიზნოს თავდასხმებს:

• მიზნობრივი თავდასხმა (targeted attack): თავდამსხმელი ცდილობს შეცვალოს შესავალი მონაცემები ისე, რომ მოდელმა მათ კონკრეტულად, წინასწარ შერჩეულ კლასად (მიზნობრივი ეტიკეტით) კლასიფიციროს. მიზანია — მოდელი ამ კლასს ცდომილად გამოაცხადოს.

• არამიზნობრივი თავდასხმა (untargeted attack): მიზანია კლასიფიკაციის შეცდომის გამოწვევა, независимо იმაზე, თუ რა კლასს გამოაცხადებს მოდელი. მთავარი — მოდელი დაარღვიოს.

მაგალითი:

• მიზნობრივი თავდასხმა სურათის ამოცნობის სისტემაზე, სადაც თავდამსხმელი სურს, რომ კატოს სურათი კლასიფიცირდეს როგორც "ძაღლი".
• არამიზნობრივი თავდასხმა საკმარისია, რომ კატოს სურათი კლასიფიცირდეს როგორც ნებისმიერი სხვა კლასი, გარდა "კატა".

მიზნობრივი თავდასხმები ჩვეულებრივ უფრო რთულია განსახორციელებელი, მაგრამ უფრო საშიშია, რადგან საშუალებას აძლევს კონტროლს თავდასხმის შედეგზე.