Qu'est-ce qu'une attaque de vol de modèle?

Une attaque de vol de modèle est un type d'attaque contre des modèles d'apprentissage automatique, où un attaquant tente de reconstruire ou de copier la fonctionnalité d'un modèle protégé, en n'ayant accès qu'à ses entrées et sorties (par exemple, via une API). L'objectif est d'obtenir un modèle propre qui se comporte de manière similaire à l'original, sans avoir besoin d'accéder aux données ou à l'architecture originales.

Cette approche permet de contourner les restrictions de licence, de réduire les coûts d'entraînement du modèle ou de trouver des vulnérabilités. Des méthodes telles que la limitation du nombre de requêtes, l'ajout de bruit aux réponses, l'utilisation de techniques de confidentialité différentielle et la surveillance d'activités anormales sont utilisées pour la protection.