Τι είναι μια επίθεση κλοπής μοντέλου;

Η επίθεση κλοπής μοντέλου είναι ένας τύπος επίθεσης σε μοντέλα μηχανικής μάθησης, όπου ένας επιτιθέμενος προσπαθεί να ανακατασκευάσει ή να αντιγράψει τη λειτουργικότητα ενός προστατευμένου μοντέλου, έχοντας πρόσβαση μόνο στις εισόδους και εξόδους του (για παράδειγμα, μέσω API). Ο στόχος είναι να αποκτήσει ένα δικό του μοντέλο που συμπεριφέρεται παρόμοια με το αρχικό, χωρίς να χρειάζεται πρόσβαση στα αρχικά δεδομένα ή την αρχιτεκτονική.

Αυτή η προσέγγιση επιτρέπει την παράκαμψη περιορισμών αδειοδότησης, τη μείωση του κόστους εκπαίδευσης του μοντέλου ή την εύρεση ευπαθειών. Για προστασία, εφαρμόζονται μέθοδοι όπως ο περιορισμός του αριθμού των αιτημάτων, η προσθήκη θορύβου στις απαντήσεις, η χρήση τεχνικών διαφορικής ιδιωτικότητας και η παρακολούθηση ανωμαλίας δραστηριότητας.