Cos'è un attacco di furto del modello?

L'attacco di furto del modello è un tipo di attacco ai modelli di apprendimento automatico, in cui un attaccante cerca di ricostruire o copiare la funzionalità di un modello protetto, avendo accesso solo alle sue entrate e uscite (ad esempio, tramite API). L'obiettivo è ottenere un modello proprio che si comporti in modo simile all'originale, senza la necessità di accedere ai dati o all'architettura originali.

Questo approccio consente di aggirare le restrizioni di licenza, ridurre i costi di addestramento del modello o trovare vulnerabilità. Per proteggersi, si utilizzano metodi come limitare il numero di richieste, aggiungere rumore alle risposte, usare tecniche di privacy differenziale e monitorare attività anomale.