Kas ir modeļa zagšanas uzbrukums un kā ar to cīnīties?

Modela zādzības uzbrukums ir uzbrukums, kurā uzbrucējs mēģina atkārtoti izveidot vai kopēt mašīnmācīšanās modeli, piekļūstot tikai tā API (piemēram, caur pieprasījumiem un atbildēm).

Kā tas darbojas:

• Uzbrucējs nosūta modelim daudz ievades datu un saņem atbildes.
• Pamatojoties uz šīm ievades-izvades pāriem, viņš izveido savu modeli, kas imitē oriģināla uzvedību.

Kāpēc tas ir bīstami:

• Intelektuālā īpašuma zādzība.
• Iespēja apiet aizsardzības un izveidot kaitīgus modeļus.

Aizsardzības metodes:

• Ierobežot pieprasījumu skaitu un ātrumu.
• Pievienot troksni vai nejaušas izmaiņas atbildēs (atšķirīga privātums).
• Izmantot autentifikācijas un autorizācijas metodes.
• Uzraudzīt anomālas aktivitātes.

Tādējādi aizsardzība prasa līdzsvaru starp pakalpojuma pieejamību un drošību.