Čo je to disparitný dopad?

Disparitný dopad je koncept v oblasti spravodlivosti v strojovom učení a etike AI, ktorý opisuje situáciu, keď algoritmus alebo model má nepomerne negatívny vplyv na určitú skupinu ľudí, aj keď v modeli nie je zjavná predsudok (napríklad podľa rasy, pohlavia alebo veku).

Ide o nepriamu diskrimináciu: model môže používať charakteristiky, ktoré sa na prvý pohľad javia ako neutrálne, ale výsledok vedie k systémovému obmedzovaniu práv alebo príležitostí jednej zo skupín.

Príklad: kreditné skóre, kde algoritmus častejšie odmieta zástupcov určitej etnickej skupiny, aj keď priamo nie je používaná etnická príslušnosť.

Na odhalenie disparitného dopadu sa používajú metriky, napríklad porovnávanie podielu pozitívnych rozhodnutí pre rôzne skupiny. Ak je rozdiel príliš veľký, hovoríme o prítomnosti disparitného dopadu a o potrebe upraviť model na zvýšenie spravodlivosti.