Mi az a modelllopás támadás?

A modelllopás elleni támadás egy olyan típusú támadás a gépi tanulási modellek ellen, amikor a támadó megpróbálja rekonstruálni vagy lemásolni a védett modell funkcionalitását, csak a bemeneteihez és kimeneteihez (például API-n keresztül) való hozzáféréssel. A cél egy saját modell létrehozása, amely hasonlóan viselkedik, mint az eredeti, anélkül, hogy hozzáférne az eredeti adatokhoz vagy architektúrához.

Ez a megközelítés lehetővé teszi a licencelési korlátozások kijátszását, a modell tanítási költségeinek csökkentését vagy sebezhetőségek feltárását. Védelemként alkalmaznak módszereket, mint például a kérések számának korlátozása, válaszok zajjal való ellátása, differenciális magánéleti technikák használata és anomáliák figyelése.