Was ist ein Modelle-Diebstahl-Angriff?

Model-Diebstahl-Angriffe sind eine Art von Angriffen auf maschinelle Lernmodelle, bei denen ein Angreifer versucht, die Funktionalität eines geschützten Modells wiederherzustellen oder zu kopieren, wobei er nur Zugriff auf die Eingaben und Ausgaben (z.B. über eine API) hat. Das Ziel ist es, ein eigenes Modell zu erhalten, das sich ähnlich wie das Original verhält, ohne Zugriff auf die ursprünglichen Daten oder die Architektur zu haben.

Dieser Ansatz ermöglicht es, Lizenzbeschränkungen zu umgehen, die Trainingskosten zu senken oder Schwachstellen zu finden. Zum Schutz werden Methoden wie die Begrenzung der Anfragenzahl, das Hinzufügen von Rauschen zu den Antworten, die Verwendung von Techniken der differentielle Privatsphäre und die Überwachung anomaler Aktivitäten eingesetzt.