Kas ir modeļa zādzības uzbrukums?

Modela zagūšanas uzbrukums ir noteikta veida uzbrukums mašīnmācīšanās modeļiem, kurā uzbrucējs cenšas atjaunot vai kopēt aizsargāta modeļa funkcionalitāti, piekļūstot tikai tā ievadiem un izvadiem (piemēram, caur API). Mērķis ir iegūt savu modeli, kas uzvedas līdzīgi oriģinālam, bez nepieciešamības piekļūt sākotnējiem datiem vai arhitektūrai.

Šī pieeja ļauj apiet licences ierobežojumus, samazināt modeļa apmācības izmaksas vai atrast ievainojamības. Aizsardzībai tiek izmantotas metodes, piemēram, pieprasījumu skaita ierobežošana, atbilžu trokšņa pievienošana, izmantojot diferencētas privātuma tehnikas un uzraugot anomālas aktivitātes.