Čo je certifikovaná odolnosť a náhodné vyhladenie?

Certifikovaná odolnosť — je formálny prístup k zárukám v strojovom učení, ktorý zabezpečuje dôkaz, že model je odolný voči určitej triede útokov alebo narušení. To znamená, že pre daný vstup a stanovenú úroveň šumu alebo deformácie model garantuje správny výsledok.

Náhodné vyhladenie — je jednou z techník na dosiahnutie certifikovanej odolnosti. Spočíva v pridávaní náhodného šumu (napríklad Gaussovského) k vstupným dátam a klasifikácia je založená na priemernom výsledku z viacerých šumových verzií vstupu. To umožňuje vytvoriť "vyhladený" model, ktorý má formálne záruky odolnosti voči malým zmenám vstupu.

Príklad: ak máte klasifikátor obrázkov, náhodné vyhladenie môže zaručiť, že malé zmeny v pixeloch (napríklad spôsobené útokom) nezmenia konečnú triedu, čo je dôležité pre bezpečnosť a spoľahlivosť systémov.