Qu'est-ce que la calibration et pourquoi est-elle importante pour l'équité?

La calibration (étalonnage) en l'apprentissage automatique est une propriété du modèle selon laquelle les probabilités prédites correspondent aux probabilités réelles des événements. Par exemple, si le modèle indique qu'un événement aura une probabilité de 0,7, alors dans environ 70 % des cas, cet événement se produira réellement.

L'étalonnage est important pour l'équité, car des probabilités déséquilibrées ou mal calibrées peuvent entraîner des erreurs systématiques dans différents groupes d'utilisateurs. Si le modèle surestime la probabilité pour un groupe et la sous-estime pour un autre, cela peut conduire à un traitement injuste, par exemple, à la discrimination lors de la prise de décision.

Ainsi, une bonne calibration aide à garantir que le modèle reflète de manière honnête et objective les risques ou les chances pour tous les groupes, ce qui augmente la confiance et la justice dans la prise de décision.