Mi az a bias-fairness audit egy ML-modellnél?

A bias-igazságossági auditok egy ML-modellben a modell működésében lévő elfogultságok (bias) és igazságtalanságok (unfairness) értékelése és felismerése. Célja, hogy biztosítsa, a modell nem diszkriminál bizonyos felhasználói csoportokat olyan jellemzők alapján, mint nem, faj, életkor stb.

Az audit során elemzik az igazságossági mérőszámokat, például a hibák egyenlőségét (equalized odds), a demográfiai egyenlőséget (demographic parity) és másokat. Ha rendszeres hibák vagy elfogultságok kerülnek felismerésre, a modellt vagy az adatokat fejlesztik a bias csökkentése és az igazságosság növelése érdekében.

Ez különösen fontos társadalmi hatással bíró feladatoknál, például hitelnyújtásnál, alkalmazásnál vagy bírósági döntéseknél.