Kas yra federuotas mokymasis ir kokie yra jo agregavimo modeliai (FedAvg)?

Federated learning yra požiūris į mašininio mokymosi modelių mokymą, kai duomenys lieka vietoje naudotojų įrenginiuose, o mokymasis vyksta paskirstytai. Modelis mokomas vietiniuose kiekvieno kliento duomenyse, o tada parametrų atnaujinimai siunčiami į centrinį serverį, kad būtų sujungti, taip padidinant duomenų privatumą ir saugumą.

Populiarus sujungimo modelis yra FedAvg (Federated Averaging). Jame serveris renka klientų modelių svorių atnaujinimus ir juos vidutiniškai apdoroja, atsižvelgdamas į vietinių duomenų dydį, sudarydamas atnaujintą pasaulinį modelį. Šis procesas kartojamas iteratyviai.

FedAvg leidžia efektyviai mokyti modelius be pirminių duomenų perdavimo, sumažindamas duomenų nutekėjimo riziką. Tačiau kyla iššūkių, susijusių su duomenų heterogeniškumu, asinchroniškumu ir galimais atakomis, todėl reikalingi papildomi saugumo ir atsparumo mechanizmai.