¿Qué es un ataque de robo de modelos?

El ataque de robo de modelos es un tipo de ataque a modelos de aprendizaje automático, en el que un atacante intenta reconstruir o copiar la funcionalidad de un modelo protegido, teniendo acceso solo a sus entradas y salidas (por ejemplo, a través de una API). El objetivo es obtener un modelo propio que se comporte de manera similar al original, sin necesidad de acceder a los datos o arquitectura originales.

Este enfoque permite sortear restricciones de licencia, reducir costos de entrenamiento del modelo o encontrar vulnerabilidades. Para protegerse, se emplean métodos como limitar la cantidad de solicitudes, añadir ruido a las respuestas, usar técnicas de privacidad diferencial y monitorear actividad anómala.