Milyen módszerek léteznek a modell de-biasingjára (ellenfejes de-biasing)?

Averszáriális elfogultságmentesítés egy módszer a gépi tanulási modellekben lévő elfogultságok kiküszöbölésére versengő tanulás segítségével. A fő ötlet az, hogy egy fő modellt tanítunk meg arra, hogy előre jelezze a célváltozót, miközben egy adverszáris modellt is tanítunk, amely megpróbálja előre jelezni a védett jellemzőt (például nem, vagy faj szerint) a fő modell kimeneteiből. A fő modellt úgy optimalizáljuk, hogy minimalizálja a predikciós hibát, és egyben megnehezítse az adverszáris modell számára a védett jellemző kitalálását.

Az adverszáris megközelítésű elfogultságmentesítési módszerek:

• Versengő tanulás: a fő modell és az adverszáris modell együtt tanulnak, ahol a fő modell megpróbálja 'megcsalni' az adverszárist.
• Regulárizáció adverszáris veszteséggel: a veszteségfüggvényhez hozzáadunk egy komponenst, amely bünteti a modellt, ha információt tartalmaz a védett jellemzőről.
• Visszacsatolásos gradiens csökkenés: az adverszáris modellből származó gradiensokat megfordítjuk a fő modell frissítésekor, hogy csökkentsük a védett jellemzőtől való függést.

Példa pseudokód:

# Fő modell f, adverszáris modell g
for batch in data:
    y_pred = f(x)
    s_pred = g(y_pred)
    loss_main = loss_fn(y_pred, y_true)
    loss_adv = loss_fn(s_pred, s_true)
    total_loss = loss_main - lambda * loss_adv
    total_loss.backward()
    optimizer.step()

Ahol a lambda szabályozza a pontosság és az igazságosság közötti egyensúlyt.