Mis on mudeli vargus rünnak ja kuidas sellele vastu seista?

Mudelivarguse rünnak on rünnak, kus ründaja püüab taasalustada või kopeerida masinõppemudelit, omades sellele juurdepääsu ainult API kaudu (näiteks päringute ja vastuste kaudu).

Kuidas see töötab:

• Ründaja saadab mudelile palju sisendeid ja saab vastuseid.
• Selle sisendi-väljundi paaride põhjal loob ta oma mudeli, mis jäljendab algse käitumist.

Miks see on ohtlik:

• Intellektuaalomandi vargus.
• Võimalus mööda pääseda kaitsetest ja luua kahjulikke mudeleid.

Kaitsemeetodid:

• Päringute arvu ja kiiruse piiramine.
• Vastustele müra või juhuslike muudatuste lisamine (diferentseeritud privaatsus).
• Autentimise ja volitamise meetodite kasutamine.
• Anomaalse tegevuse jälgimine.

Seega nõuab kaitse tasakaalu teenuse kättesaadavuse ja turvalisuse vahel.