Kas ir mērķtiecīga pret mērķa neattiecoša uzbrukums?

Mašīnmācīšanās modeļu uzbrukumu (adversālie uzbrukumi) kontekstā tiek izdalītas mērķtiecīgas un nemērķtiecīgas uzbrukumi:

• Mērķtiecīgs uzbrukums (targeted attack): uzbrucējs cenšas mainīt ievades datus tā, lai modelis tos klasificētu kā konkrētu, iepriekš izvēlētu klasi (mērķa marķieri). Mērķis ir likt modelim nepareizi prognozēt tieši šo klasi.

• Nemērķtiecīgs uzbrukums (untargeted attack): mērķis ir izraisīt kļūdainu klasifikāciju, neatkarīgi no tā, kura kļūdainā klase tiks prognozēta. Galvenais ir likt modelim kļūdīties.

Piemērs:

• Uzbrukums uz attēlu atpazīšanas sistēmu, kurā uzbrucējs vēlas, lai kaķa attēls tiktu klasificēts kā "suņa".
• Nemērķtiecīgs uzbrukums ir pietiekami, ja kaķa attēls tiek klasificēts kā jebkura cita klase, izņemot "kaķis".

Mērķtiecīgi uzbrukumi parasti ir grūtāk īstenojami, bet tie ir bīstamāki, jo ļauj kontrolēt uzbrukuma rezultātu.