Какво е целенасочена срещу нецелена атака?

В контекста на атаки срещу модели за машинно обучение (adversarial attacks) се разграничават целенасочени и нецелеви атаки:

• Целенасочена атака (targeted attack): нападателят се опитва да промени входните данни така, че моделът да ги класифицира като конкретен, предварително избран клас (целеви етикет). Целта е моделът да предвиди грешно именно този клас.

• Неконкретна атака (untargeted attack): целта е да се предизвика грешка в класификацията, без значение какъв точно грешен клас ще бъде предсказан. Важното е моделът да се провали.

Пример:

• В целенасочена атака срещу система за разпознаване на образи, нападателят иска изображението на котка да бъде класифицирано като "куче".
• В неконкретна атака е достатъчно изображението на котка да бъде класифицирано като всякакъв клас, различен от "котка".

Целенасочените атаки обикновено са по-трудни за реализиране, но са по-опасни, тъй като позволяват контрол върху резултата от атаката.