Wat is het verschil tussen een gerichte en een niet-gerichte aanval?

In de context van aanvallen op machine learning-modellen (adversariale aanvallen) worden gerichte en niet-gerichte aanvallen onderscheiden:

• Gerichte aanval (targeted attack): de aanvaller probeert de invoergegevens zodanig te wijzigen dat het model ze classificeert als een specifieke, vooraf gekozen klasse (doellabel). Het doel is om het model deze klasse foutief te laten voorspellen.

• Niet-gerichte aanval (untargeted attack): het doel is om een classificatiefout te veroorzaken, ongeacht welke foutieve klasse wordt voorspeld. Het belangrijkste is dat het model faalt.

Voorbeeld:

• Bij een gerichte aanval op een beeldherkeningssysteem wil de aanvaller dat een afbeelding van een kat wordt geclassificeerd als "hond".
• Bij een niet-gerichte aanval is het voldoende dat de afbeelding van een kat wordt geclassificeerd als elke klasse anders dan "kat".

Gerichte aanvallen zijn meestal moeilijker uit te voeren, maar ze zijn gevaarlijker omdat ze het resultaat van de aanval kunnen controleren.