Mi a célzott és a nem célzott támadás közötti különbség?

A gépi tanulási modellek elleni támadások (adverszáriális támadások) kontextusában megkülönböztetünk célzott és céltalan támadásokat:

• Célzott támadás (targeted attack): a támadó megpróbálja módosítani a bemeneti adatokat úgy, hogy a modell egy adott, előre kiválasztott osztályként (célcímke) osztályozza azokat. A cél az, hogy a modell tévesen jósolja meg ezt az osztályt.

• Céltalan támadás (untargeted attack): a cél a hibás osztályozás kiváltása, függetlenül attól, hogy melyik helytelen osztályt jósolja a modell. A lényeg, hogy a modell hibázzon.

Példa:

• Egy célzott támadás egy kép felismerő rendszer ellen, hogy a támadó azt akarja, hogy egy macskás kép "kutyának" legyen osztályozva.
• Egy céltalan támadás esetén elegendő, ha a macskás kép bármely más osztályba kerül, mint "macska".

A célzott támadások általában nehezebben kivitelezhetők, de veszélyesebbek, mivel lehetővé teszik a támadás eredményének kontrollálását.