Kas yra priešiškas mokymas kaip apsauga?

Adversarial training — tai būdas didinti mašininio mokymosi modelių, ypač neuroninių tinklų, atsparumą vadinamiesiems adversarial atakoms. Tokios atakos sukuria specialiai modifikuotus įvesties duomenis (adversarial pavyzdžius), kurie atrodo beveik kaip įprasti, bet klaidina modelį, verčia jį klysti.

Adversarial training esmė ta, kad mokymo metu šie iškraipyti pavyzdžiai pridedami prie įprastų duomenų, ir modelis išmoksta juos teisingai klasifikuoti. Tai padeda modeliui tapti atsparesniam tokioms atakoms ateityje.

Pavyzdys:

# Pseudokodas adversarial training
for batch in data_loader:
    x, y = batch
    x_adv = generate_adversarial_examples(x, y, model)
    loss = loss_fn(model(x), y) + loss_fn(model(x_adv), y)
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

Taip adversarial training yra būdas apsaugoti modelį, didinant jo patikimumą ir saugumą dirbant su potencialiai žalingais įvesties duomenimis.