Šta je napad krađe modela?

Атака крађе модела је врста напада на моделе машинског учења, у којој нападач покушава да реконструише или копира функционалност заштићеног модела, имајући приступ само његовим улазима и излазима (на пример, преко API). Циљ је добити свој модел који се понаша слично оригиналу, без потребе за приступом изворним подацима или архитектури.

Овај приступ омогућава заобилажење лиценцних ограничења, смањење трошкова обуке модела или проналажење утичница. Заштита се спроводи коришћењем метода као што су ограничење броја захтева, додавање шума у одговоре, коришћење техника диференцијалне приватности и праћење аномалне активности.