Co je to útok na krádež modelu?

Útok na krádež modelu je typ útoku na modely strojového učení, při kterém se útočník snaží obnovit nebo zkopírovat funkčnost chráněného modelu s přístupem pouze k jeho vstupům a výstupům (například přes API). Cílem je získat vlastní model, který se chová podobně jako originál, aniž by měl přístup k původním datům nebo architektuře.

Tento přístup umožňuje obejít licenční omezení, snížit náklady na trénink modelu nebo najít zranitelnosti. Pro ochranu se používají metody jako omezení počtu požadavků, přidání šumu do odpovědí, využívání technik diferenciálního soukromí a sledování anomální aktivity.