Mi az a disparitás hatás?

A diszparitás hatás egy fogalom a gépi tanulás igazságossága és az MI etika területén, amely leírja azt a helyzetet, amikor egy algoritmus vagy modell aránytalanul negatív hatással van egy adott csoport tagjaira, még akkor is, ha a modellben nincs nyilvánvaló elfogultság (például faj, nem vagy életkor szerint).

Ez közvetett diszkrimináció: a modell használhat olyan jellemzőket, amelyek első pillantásra neutrálisnak tűnnek, de az eredmény egy rendszeres jog- vagy lehetőségkorlátozáshoz vezet egy csoport esetében.

Példa: hitelminősítés, ahol az algoritmus gyakrabban utasít el egy adott etnikai csoport képviselőit, bár az etnikai hovatartozás közvetlenül nem kerül felhasználásra.

A diszparitás hatás felismeréséhez metrikákat alkalmaznak, például összehasonlítva a pozitív döntések arányát különböző csoportok között. Ha a különbség túl nagy, akkor diszparitás hatásról beszélünk, és szükség van a modell módosítására az igazságosság növelése érdekében.