Model çalma saldırısı nedir?

Model çalma saldırısı, makine öğrenimi modellerine yönelik bir saldırı türüdür. Bu saldırıda saldırgan, korunan bir modelin işlevselliğini yeniden oluşturmak veya kopyalamak ister, yalnızca girişlere ve çıkışlara (örneğin, bir API aracılığıyla) erişimi vardır. Amaç, orijinal modele benzer davranan kendi modelini elde etmektir; bu, orijinal veriye veya mimariye erişim gerektirmez.

Bu yaklaşım, lisans kısıtlamalarını aşmaya, model eğitimi maliyetlerini azaltmaya veya zayıf noktaları bulmaya olanak tanır. Koruma için, istek sayısını sınırlama, yanıtları gürültü ile doldurma, diferansiyel gizlilik teknikleri kullanma ve anormal aktiviteleri izleme gibi yöntemler uygulanır.