Was ist ein Membership-Inference-Angriff?

Mitgliedschafts-Inferenzangriff ist eine Art von Angriff auf maschinelle Lernmodelle, bei dem ein Angreifer versucht festzustellen, ob bestimmte Daten im Trainingssatz des Modells enthalten waren.

Ein solcher Angriff kann verwendet werden, um vertrauliche Informationen offenzulegen, zum Beispiel, wenn das Modell mit privaten Benutzerdaten trainiert wurde.

Funktionsweise:

• Der Angreifer gibt bestimmte Datenmuster als Eingabe in das Modell.
• Er analysiert die Antworten des Modells (z.B. Klassenwahrscheinlichkeiten).
• Basierend auf diesen Antworten versucht er zu bestimmen, ob diese Muster im Trainingssatz waren.

Dies ist wichtig bei der Entwicklung von Modellen, insbesondere in sensiblen Bereichen (Medizin, Finanzen), und bei der Anwendung von Schutzmethoden wie der differentielle Privatsphäre.