Kokios grėsmės yra federuotame mokyme (modelio inversija iš gradientų)?

Federated learning leidžia mokyti modelius paskirstytuose duomenyse be jų centralizuoto rinkimo, tačiau yra rizika, kad informacija gali būti nutekinta per gradientus. Modelio inversijos ataka iš gradientų yra tada, kai užpuolikas, turėdamas prieigą prie modelio atnaujinimų (gradientų), bando atkurti pradinius duomenis, kuriais buvo mokomas modelis.

Pagrindinės grėsmės:

• Privatūs duomenų atkūrimas: Iš gradientų galima apytiksliai atkurti vaizdus, tekstus ar kitus jautrius duomenis, ypač jei duomenys yra homogeniški ir modelis mažas.
• Daug raundų naudojimo atakos: Gradientų kaupimas per kelis iteracijas didina atkūrimo tikslumą.
• Tikslios atakos: Užpuolikas gali specialiai formuoti užklausas ar modelius, kad palengvintų inversiją.

Apsaugai taikomi diferencialios privatumo metodai, gradientų šifravimas (pvz., Saugi agregacija), atnaujinimų dydžio ir dažnio apribojimas, taip pat naudojant homomorfinį šifravimą ir kitus kriptografinius protokolus.