Какво е атака за кражба на модел?

Атака за кражба на модел е вид атака срещу модели за машинно обучение, при която нападателят се опитва да възстанови или копира функционалността на защитен модел, като има достъп само до входовете и изходите му (например чрез API). Целта е да се получи собствен модел, който се държи подобно на оригинала, без да е необходимо да има достъп до оригиналните данни или архитектура.

Този подход позволява заобикаляне на лицензионните ограничения, намаляване на разходите за обучение на модела или откриване на уязвимости. За защита се използват методи като ограничаване на броя на заявките, добавяне на шум към отговорите, използване на техники за диференциална поверителност и мониторинг на аномална активност.