Co je to útok na inference membership?

Útok na odhad členství je typ útoku na modely strojového učení, při kterém se útočník snaží určit, zda určitá data byla zahrnuta do tréninkové sady modelu.

Takový útok lze využít k odhalení důvěrných informací, například pokud byl model trénován na soukromých datech uživatelů.

Princip fungování:

• Útočník zadá do modelu určité vzory dat.
• Analyzuje odpovědi modelu (například pravděpodobnosti tříd).
• Na základě těchto odpovědí se snaží určit, zda tyto vzory byla součástí tréninkové sady.

Je důležité to brát v úvahu při vývoji modelů, zejména v oblastech s citlivými daty (medicína, finance), a používat ochranné metody, například diferenciální soukromí.