Ce este un atac de furt de model?

Atacul de furt al modelului este un tip de atac asupra modelelor de învățare automată, în care un atacator încearcă să reconstruiască sau să copieze funcționalitatea unui model protejat, având acces doar la intrările și ieșirile sale (de exemplu, prin API). Scopul este de a obține un model propriu care să se comporte similar cu originalul, fără a fi nevoie de acces la datele sau arhitectura originală.

Această abordare permite ocolirea restricțiilor de licență, reducerea costurilor de antrenament ale modelului sau identificarea vulnerabilităților. Pentru protecție, se aplică metode precum limitarea numărului de solicitări, adăugarea de zgomot în răspunsuri, utilizarea tehnicilor de confidențialitate diferențială și monitorizarea activităților anormale.