O que é um ataque de roubo de modelo?

Ataque de roubo de modelo é um tipo de ataque a modelos de aprendizagem automática, no qual um atacante tenta reconstruir ou copiar a funcionalidade de um modelo protegido, tendo acesso apenas às suas entradas e saídas (por exemplo, através de uma API). O objetivo é obter um modelo próprio que se comporte de forma semelhante ao original, sem necessidade de acesso aos dados ou arquitetura originais.

Esta abordagem permite contornar restrições de licença, reduzir custos de treino do modelo ou encontrar vulnerabilidades. Para proteção, são utilizados métodos como limitar o número de solicitações, adicionar ruído às respostas, usar técnicas de privacidade diferencial e monitorar atividades anormais.