Čo je útok na krádež modela?

Útok na krádež modelu je typ útoku na modely strojového učenia, pri ktorom sa útočník snaží obnoviť alebo skopírovať funkčnosť chráneného modelu, pričom má prístup iba k jeho vstupom a výstupom (napríklad cez API). Cieľom je získať vlastný model, ktorý sa správa podobne ako originál, bez potreby prístupu k pôvodným dátam alebo architektúre.

Tento prístup umožňuje obísť licenčné obmedzenia, znížiť náklady na tréning modelu alebo nájsť zraniteľnosti. Na ochranu sa používajú metódy ako obmedzenie počtu požiadaviek, pridanie šumu do odpovedí, využívanie techník diferenciálnej súkromia a sledovanie anomálnej aktivity.