Čo je útok na inverziu modelu?

Útok na inverziu modelu je typ útoku na modely strojového učenia, pri ktorom sa útočník snaží rekonštruovať vstupné údaje alebo ich vlastnosti pomocou prístupu k výstupom modelu. Cieľom je získať dôverné informácie, ktoré boli použité na tréning modelu.

Napríklad, ak je model trénovaný na medicínskych údajoch pacientov, útočník môže, majúc prístup k predpovediam modelu, pokúsiť sa rekonštruovať osobné údaje konkrétneho pacienta. To ohrozuje súkromie a bezpečnosť.

Takéto útoky sa často používajú na modeloch s otvoreným API, kde je možné odosielať požiadavky a prijímať odpovede. Na ochranu sa používajú metódy diferenciálnej súkromia, obmedzenia prístupu k modelu, ako aj regularizácia a obfuskácia modelu.

Preto je útok na inverziu modelu vážnou hrozbou pre bezpečnosť a súkromie v ML, ktorá vyžaduje špeciálne opatrenia na ochranu.