Šta je napad krađe modela i kako mu se suprotstaviti?

Napad krađe modela je napad u kojem napadač pokušava da rekreira ili kopira model mašinskog učenja, imajući pristup samo njegovom API-ju (na primer, putem zahteva i odgovora).

Kako to funkcioniše:

• Napadač šalje mnogo ulaznih podataka u model i dobija odgovore.
• Na osnovu ovih parova ulaz-izlaz, pravi sopstveni model koji imituje ponašanje originala.

Zašto je opasno:

• Krađa intelektualne svojine.
• Mogućnost zaobilaženja zaštita i kreiranja zlonamernih modela.

Načini zaštite:

• Ograničavanje broja zahteva i brzine.
• Dodavanje šuma ili slučajnih promena u odgovore (diferencijalna privatnost).
• Korišćenje metoda autentifikacije i autorizacije.
• Praćenje anomalne aktivnosti.

Tako zaštita zahteva balans između dostupnosti usluge i bezbednosti.