Какво е атака за кражба на модел и как да се противопоставим?

Атака за кражба на модел е атака, при която злонамереното лице се опитва да възстанови или копира модел за машинно обучение, като има достъп само до неговия API (например чрез заявки и отговори).

Как работи:

• Злонамереното лице изпраща множество входни данни към модела и получава отговори.
• Въз основа на тези двойки вход-изход, той създава свой собствен модел, който имитира поведението на оригинала.

Защо е опасно:

• Кражба на интелектуална собственост.
• Възможност за заобикаляне на защитите и създаване на вредни модели.

Методи за защита:

• Ограничаване на броя на заявките и скоростта.
• Добавяне на шум или случайни промени в отговорите (различна поверителност).
• Използване на методи за удостоверяване и авторизация.
• Мониторинг на аномална активност.

Така защитата изисква баланс между достъпността на услугата и сигурността.