Čo je to útok na inference membership?

Útok na inferenciu členstva je typ útoku na modely strojového učenia, pri ktorom sa útočník snaží určiť, či určité údaje boli zahrnuté do tréningovej sady modelu.

Takýto útok možno využiť na odhalenie dôverných informácií, napríklad ak bol model trénovaný na súkromných údajoch používateľov.

Princíp fungovania:

• Útočník zadá do modelu určité vzory údajov.
• Analyzuje odpovede modelu (napríklad pravdepodobnosti tried).
• Na základe týchto odpovedí sa snaží určiť, či tieto vzory boli súčasťou tréningovej sady.

Je dôležité to brať do úvahy pri vývoji modelov, najmä v oblastiach s citlivými údajmi (medicína, financie), a používať ochranné metódy, napríklad diferenciálnu súkromie.