Qu'est-ce qu'une attaque de vol de modèle et comment y faire face?

Une attaque de vol de modèle est une attaque où un attaquant tente de recréer ou de copier un modèle d'apprentissage automatique en ayant uniquement accès à son API (par exemple, via des requêtes et des réponses).

Comment cela fonctionne :

• L'attaquant envoie de nombreuses entrées au modèle et reçoit des réponses.
• Sur la base de ces paires entrée-sortie, il construit son propre modèle imitant le comportement de l'original.

Pourquoi c'est dangereux :

• Vol de propriété intellectuelle.
• Possibilité de contourner la protection et de créer des modèles malveillants.

Méthodes de protection :

• Limiter le nombre de requêtes et la vitesse.
• Ajouter du bruit ou des modifications aléatoires aux réponses (confidentialité différentielle).
• Utiliser des méthodes d'authentification et d'autorisation.
• Surveiller l'activité anormale.

Ainsi, la protection nécessite un équilibre entre la disponibilité du service et la sécurité.