Membership inference saldırısı nedir?

Üyelik çıkarım saldırısı, makine öğrenimi modellerine yönelik bir saldırı türüdür ve saldırgan, belirli verilerin modelin eğitim kümesine dahil olup olmadığını belirlemeye çalışır.

Böyle bir saldırı, gizli bilgilerin ortaya çıkarılması için kullanılabilir, örneğin model özel kullanıcı verileriyle eğitildiyse.

Çalışma prensibi:

• Saldırgan, modele belirli veri örnekleri sağlar.
• Modelin yanıtlarını analiz eder (örneğin, sınıf olasılıkları).
• Bu yanıtlara dayanarak, bu örneklerin eğitim kümesinde olup olmadığını belirlemeye çalışır.

Model geliştirilirken, özellikle hassas verilerin bulunduğu alanlarda (sağlık, finans) ve koruma yöntemleri (diferansiyel gizlilik) kullanmak önemlidir.