Wat is een modeldiefstal-aanval?

Modeldiefstal-aanvallen zijn een soort aanval op machine learning-modellen, waarbij een aanvaller probeert de functionaliteit van een beschermd model te herstellen of te kopiëren, met alleen toegang tot de invoer en uitvoer ervan (bijvoorbeeld via een API). Het doel is om een eigen model te verkrijgen dat vergelijkbaar gedrag vertoont als het originele, zonder toegang tot de oorspronkelijke gegevens of architectuur.

Deze aanpak maakt het mogelijk om licentiebeperkingen te omzeilen, de kosten van het trainen van het model te verlagen of kwetsbaarheden te vinden. Voor bescherming worden methoden gebruikt zoals het beperken van het aantal verzoeken, het toevoegen van ruis aan de antwoorden, het gebruik van technieken voor differentiële privacy en het monitoren van abnormale activiteiten.