Czym jest atak ukierunkowany vs nieukierunkowany?

W kontekście ataków na modele uczenia maszynowego (ataków adversarialnych) wyróżnia się ataki ukierunkowane i nieukierunkowane:

• Atak ukierunkowany (targeted attack): atakujący stara się zmienić dane wejściowe tak, aby model sklasyfikował je jako konkretną, wcześniej wybraną klasę (etykietę docelową). Celem jest zmuszenie modelu do błędnego przewidzenia tej klasy.

• Atak nieukierunkowany (untargeted attack): celem jest wywołanie błędu klasyfikacji, niezależnie od tego, jaka klasa zostanie przewidziana. Najważniejsze jest, aby model się pomylił.

Przykład:

• W ataku ukierunkowanym na system rozpoznawania obrazów, atakujący chce, aby obraz kota został sklasyfikowany jako "pies".
• W ataku nieukierunkowanym wystarczy, aby obraz kota został sklasyfikowany jako dowolna klasa inna niż "kot".

Ataki ukierunkowane są zwykle trudniejsze do zrealizowania, ale są bardziej niebezpieczne, ponieważ pozwalają kontrolować wynik ataku.