Kas yra modelio vagystės ataka?

Modelio vagystės ataka yra tam tikro tipo ataka prieš mašininio mokymosi modelius, kurioje užpuolikas bando atkurti arba kopijuoti apsaugoto modelio funkcionalumą, turėdamas prieigą tik prie jo įėjimų ir išėjimų (pavyzdžiui, per API). Tikslas yra gauti savo modelį, kuris elgtųsi panašiai kaip originalas, be prieigos prie pirminių duomenų ar architektūros.

Šis požiūris leidžia apeiti licencijavimo apribojimus, sumažinti modelio mokymo išlaidas arba rasti pažeidžiamumų. Apsaugai taikomi metodai kaip užklausų skaičiaus ribojimas, atsakymų triukšmo pridėjimas, naudojant diferencialios privatumo technikas ir stebint anomalų aktyvumą.