O que é o treino adversarial e qual é o seu compromisso?

O treino adversarial é um método para aumentar a robustez dos modelos de aprendizagem automática contra ataques em que os dados de entrada são modificados intencionalmente para enganar o modelo (exemplos adversariais).

A essência do treino adversarial é que, durante o treino, exemplos adversariais gerados especificamente são adicionados aos dados normais, e o modelo aprende a classificá-los corretamente. Isso aumenta sua resistência a ataques semelhantes no futuro.

Compromisso do treino adversarial:

• Vantagens:

  • Aumenta significativamente a segurança e fiabilidade do modelo.
  • Melhora a resistência a pequenas distorções nos dados.

• Desvantagens:

  • Aumento do tempo e recursos necessários para o treino.
  • Possível redução da precisão em dados limpos (não distorcidos).
  • A geração de exemplos adversariais de qualidade pode ser complexa.

Assim, o treino adversarial é um equilíbrio entre melhorar a segurança do modelo e os custos de treino, bem como a possível diminuição do desempenho geral.