Federated learning'de (gradyanlardan model tersine mühendisliği) hangi tehditler var?

Federated learning, merkezi olmayan veriler üzerinde modeller eğitmeye olanak tanır, ancak bu süreçte gradyanlar aracılığıyla bilgi sızıntısı riski vardır. Gradyanlar üzerinden model inversiyon saldırısı, saldırganın modele erişimi olduğu durumda (gradyanlar) eğitim sırasında kullanılan orijinal verileri yeniden oluşturmayı denemesi anlamına gelir.

Ana tehditler:

• Özel verilerin yeniden oluşturulması: Gradyanlar kullanılarak, özellikle veriler homojen ve model küçükse, yaklaşık olarak görüntüler, metinler veya diğer hassas veriler yeniden oluşturulabilir.
• Birden fazla tur kullanımıyla saldırılar: Birkaç iterasyon boyunca gradyanların toplanması, yeniden oluşturma doğruluğunu artırır.
• Hedefli saldırılar: Saldırgan, inversiyonu kolaylaştırmak için özel olarak istekler veya modeller oluşturabilir.

Koruma amaçlı, diferansiyel gizlilik yöntemleri, gradyanların şifrelenmesi (örneğin, Güvenli Toplama), güncelleme boyutu ve sıklığının sınırlandırılması, homomorfik şifreleme ve diğer kriptografik protokoller kullanılır.