Co je adversariální trénink a jaký je jeho trade-off?

Adversariální trénink je metoda zvyšování odolnosti modelů strojového učení vůči útokům, při nichž jsou vstupní data úmyslně upravována s cílem oklamat model (adversariální příklady).

Podstata adversariálního tréninku spočívá v tom, že během tréninku jsou k běžným datům přidávány speciálně generované adversariální příklady, a model se naučí je správně klasifikovat. To zvyšuje jeho odolnost vůči podobným útokům v budoucnu.

Trade-off adversariálního tréninku:

• Výhody:

  • Výrazně zvyšuje bezpečnost a spolehlivost modelu.
  • Zlepšuje odolnost vůči malým zkreslením dat.

• Nevýhody:

  • Zvyšuje čas a zdroje potřebné pro trénink.
  • Může snížit přesnost na čistých (nezkreslených) datech.
  • Generování kvalitních adversariálních příkladů může být složité.

Adversariální trénink je tedy rovnováhou mezi zvýšením bezpečnosti modelu a náklady na trénink a možným zhoršením celkového výkonu.