Čo je útok na krádež modelu a ako mu sa bránite?

Útok na krádež modelu je útok, pri ktorom sa útočník snaží znovu vytvoriť alebo skopírovať model strojového učenia, pričom má prístup iba k jeho API (napríklad prostredníctvom požiadaviek a odpovedí).

Ako to funguje:

• Útočník posiela modelu množstvo vstupov a dostáva odpovede.
• Na základe týchto párikov vstup-výstup si vytvorí vlastný model, ktorý napodobňuje správanie originálu.

Prečo je to nebezpečné:

• Krádež duševného vlastníctva.
• Možnosť obísť ochrany a vytvárať škodlivé modely.

Spôsoby ochrany:

• Obmedzenie počtu požiadaviek a rýchlosti.
• Pridanie šumu alebo náhodných zmien do odpovedí (diferenciálna súkromie).
• Použitie metód autentifikácie a autorizácie.
• Monitorovanie abnormálnej aktivity.

Týmto spôsobom je ochrana vyžadovať rovnováhu medzi dostupnosťou služby a bezpečnosťou.