O que é um ataque de roubo de modelo e como combatê-lo?

Ataque de roubo de modelo é um ataque em que um atacante tenta recriar ou copiar um modelo de aprendizagem automática, tendo apenas acesso à sua API (por exemplo, através de solicitações e respostas).

Como funciona:

• O atacante envia várias entradas ao modelo e recebe respostas.
• Com base nesses pares entrada-saída, constrói seu próprio modelo que imita o comportamento do original.

Por que é perigoso:

• Roubo de propriedade intelectual.
• Possibilidade de contornar proteções e criar modelos maliciosos.

Formas de proteção:

• Limitar o número de solicitações e a velocidade.
• Adicionar ruído ou alterações aleatórias às respostas (privacidade diferencial).
• Utilizar métodos de autenticação e autorização.
• Monitorar atividade anormal.

Assim, a proteção requer um equilíbrio entre a acessibilidade do serviço e a segurança.