Čo je to cielený vs. nek cílený útok?

V kontexte útokov na modely strojového učenia (adversárne útoky) rozlišujeme cielené a necielené útoky:

• Cielený útok (targeted attack): útočník sa snaží upraviť vstupné údaje tak, aby ich model zařadil ako konkrétnu, vopred zvolenú triedu (cieľovú značku). Cieľom je, aby model nesprávne predpovedal práve túto triedu.

• Necielený útok (untargeted attack): cieľom je spôsobiť chybu v klasifikácii, nezávisle od toho, aká chyba bude predpovedaná. Hlavné je, aby model zlyhal.

Príklad:

• Pri cielenom útoku na systém rozpoznávania obrázkov chce útočník, aby obrázok mačky bol klasifikovaný ako "pes".
• Pri necielenom útoku stačí, aby obrázok mačky bol klasifikovaný ako akákoľvek trieda odlišná od "mačka".

Cielené útoky sú zvyčajne ťažšie na realizáciu, ale sú nebezpečnejšie, pretože umožňujú kontrolu nad výsledkom útoku.