Čo je audit bias-fairness pre ML model?

Audit spravodlivosti a zaujatosti ML modelu je proces hodnotenia a odhaľovania predsudkov (bias) a nespravodlivosti (unfairness) v prevádzke modelu. Cieľom je zabezpečiť, aby model nediskriminoval určité skupiny používateľov na základe vlastností, ako je pohlavie, rasa, vek a pod.

Počas auditu sa analyzujú metriky spravodlivosti, ako je rovnosť chýb (equalized odds), demografická parity (demographic parity) a ďalšie. Ak sa odhalia systémové chyby alebo predsudky, vykonávajú sa vylepšenia modelu alebo dát na zníženie biasu a zvýšenie spravodlivosti.

Toto je obzvlášť dôležité pri úlohách s sociálnym dopadom, ako je poskytovanie úverov, zamestnávanie alebo súdne rozhodnutia.