Czym jest atak kradzieży modelu?

Atak kradzieży modelu to rodzaj ataku na modele uczenia maszynowego, w którym atakujący próbuje odtworzyć lub skopiować funkcjonalność chronionego modelu, mając dostęp tylko do jego wejść i wyjść (np. przez API). Celem jest uzyskanie własnego modelu, który zachowuje się podobnie do oryginału, bez konieczności dostępu do danych źródłowych lub architektury.

Takie podejście pozwala obejść ograniczenia licencyjne, obniżyć koszty szkolenia modelu lub znaleźć luki bezpieczeństwa. W celu ochrony stosuje się metody ograniczania liczby zapytań, dodawania szumu do odpowiedzi, korzystania z technik różnicowej prywatności oraz monitorowania nieprawidłowej aktywności.