O que é um ataque direcionado vs não direcionado?

No contexto de ataques a modelos de aprendizagem automática (ataques adversariais), distinguem-se ataques direcionados e não direcionados:

• Ataque direcionado (targeted attack): o atacante tenta modificar os dados de entrada para que o modelo os classifique como uma classe específica, previamente escolhida (rótulo alvo). O objetivo é fazer com que o modelo preveja incorretamente essa classe.

• Ataque não direcionado (untargeted attack): o objetivo é causar um erro de classificação, independentemente de qual classe incorreta seja prevista. O importante é fazer o modelo falhar.

Exemplo:

• Num ataque direcionado a um sistema de reconhecimento de imagens, o atacante quer que uma imagem de um gato seja classificada como "cachorro".
• Num ataque não direcionado, basta que a imagem de um gato seja classificada como qualquer classe diferente de "gato".

Ataques direcionados costumam ser mais difíceis de implementar, mas são mais perigosos, pois permitem controlar o resultado do ataque.