Mis vahe on sihitud ja mitte-sihitud rünnakul?

Masinõppimise mudelite rünnakute (adversarial attacks) kontekstis eristatakse sihitud ja mitte-sihitud rünnakuid:

• Sihitud rünnak (targeted attack): ründaja püüab muuta sisendandmeid nii, et mudel klassifitseeriks need konkreetseks, eelnevalt valitud klassiks (sihtmärgiks märgistus). Eesmärk on sundida mudelit valesti ennustama just selle klassi.

• Mitte-sihitud rünnak (untargeted attack): eesmärk on põhjustada klassifikatsiooniviga, olenemata sellest, millist valesti ennustatud klassi saadakse. Peamine on, et mudel ebaõnnestuks.

Näide:

• Sihitud rünnak pildituvastussüsteemi vastu, kus ründaja soovib, et kassipilt klassifitseeritakse kui "koer".
• Mitte-sihitud rünnakuks piisab, kui kassipilt klassifitseeritakse kui ükskõik milline muu klass, välja arvatud "kass".

Sihitud rünnakud on tavaliselt keerulisemad teostada, kuid need on ohtlikumad, kuna võimaldavad kontrollida rünnaku tulemust.