Qu'est-ce qu'une attaque ciblée vs non ciblée?

Dans le contexte des attaques contre des modèles d'apprentissage automatique (attaques adversariales), on distingue les attaques ciblées et non ciblées :

• Attaque ciblée (targeted attack) : l'attaquant cherche à modifier les données d'entrée pour que le modèle les classe comme une classe spécifique, préalablement choisie (étiquette cible). L'objectif est de faire en sorte que le modèle prévoie incorrectement cette classe.

• Attaque non ciblée (untargeted attack) : le but est de provoquer une erreur de classification, peu importe quelle classe incorrecte sera prédite. L'essentiel est de faire échouer le modèle.

Exemple :

• Dans une attaque ciblée contre un système de reconnaissance d'images, l'attaquant veut que l'image d'un chat soit classée comme "chien".
• Dans une attaque non ciblée, il suffit que l'image d'un chat soit classée dans n'importe quelle classe différente de "chat".

Les attaques ciblées sont généralement plus difficiles à réaliser, mais elles sont plus dangereuses, car elles permettent de contrôler le résultat de l'attaque.