Qu'est-ce qu'un audit de bias-fairness pour un modèle ML?

L’audit de l’équité dans les biais d’un modèle ML est le processus d’évaluation et de détection des préjugés (bias) et des injustices (unfairness) dans le fonctionnement du modèle. L’objectif est de s’assurer que le modèle ne discrimine pas certains groupes d’utilisateurs en fonction de caractéristiques telles que le sexe, la race, l’âge, etc.

Lors de l’audit, on analyse des métriques d’équité, comme l’égalité des erreurs (equalized odds), la parité démographique (demographic parity) et d’autres. Si des erreurs systématiques ou des biais sont détectés, on améliore le modèle ou les données pour réduire le bias et augmenter la fairness.

Ceci est particulièrement important dans les tâches à impact social, comme l’octroi de crédits, le recrutement ou les décisions judiciaires.