Τι είναι η στοχευμένη έναντι της μη στοχευμένης επίθεσης;

Στο πλαίσιο επιθέσεων σε μοντέλα μηχανικής μάθησης (επιθέσεις adversarial), διακρίνονται οι στοχευμένες και οι μη στοχευμένες επιθέσεις:

• Στοχευμένη επίθεση (targeted attack): ο επιτιθέμενος προσπαθεί να τροποποιήσει τα δεδομένα εισόδου έτσι ώστε το μοντέλο να τα ταξινομήσει ως μια συγκεκριμένη, προ-επιλεγμένη κλάση (στόχος ετικέτας). Ο στόχος είναι να κάνει το μοντέλο να προβλέψει λανθασμένα αυτήν την κλάση.

• Μη στοχευμένη επίθεση (untargeted attack): ο στόχος είναι να προκαλέσει σφάλμα ταξινόμησης, ανεξάρτητα από το ποια λανθασμένη κλάση θα προβλεφθεί. Το σημαντικό είναι να αποτύχει το μοντέλο.

Παράδειγμα:

• Σε μια στοχευμένη επίθεση σε ένα σύστημα αναγνώρισης εικόνων, ο επιτιθέμενος θέλει μια εικόνα γάτας να ταξινομηθεί ως "σκύλος".
• Σε μια μη στοχευμένη επίθεση, αρκεί η εικόνα γάτας να ταξινομηθεί ως οποιαδήποτε κλάση διαφορετική από "γάτα".

Οι στοχευμένες επιθέσεις είναι συνήθως πιο δύσκολες να υλοποιηθούν, αλλά είναι πιο επικίνδυνες, καθώς επιτρέπουν τον έλεγχο του αποτελέσματος της επίθεσης.