Cos'è un attacco di furto del modello e come contrastarlo?

Attacco di furto del modello è un attacco in cui un malintenzionato cerca di ricreare o copiare un modello di apprendimento automatico, avendo accesso solo alla sua API (ad esempio, tramite richieste e risposte).

Come funziona:

• L'attaccante invia molteplici input al modello e riceve risposte.
• Basandosi su queste coppie input-output, costruisce il proprio modello che imita il comportamento dell'originale.

Perché è pericoloso:

• Furto di proprietà intellettuale.
• Possibilità di aggirare le protezioni e creare modelli dannosi.

Metodi di protezione:

• Limitare il numero di richieste e la velocità.
• Aggiungere rumore o modifiche casuali alle risposte (privacy differenziale).
• Utilizzare metodi di autenticazione e autorizzazione.
• Monitorare attività anomale.

Quindi, la protezione richiede un equilibrio tra disponibilità del servizio e sicurezza.