O que é uma auditoria de bias-fairness em um modelo de ML?

A auditoria de justiça de viés de um modelo de ML é o processo de avaliar e identificar preconceitos (bias) e injustiças (unfairness) no funcionamento do modelo. O objetivo é garantir que o modelo não discrimine certos grupos de utilizadores com base em características como género, raça, idade, etc.

Durante a auditoria, analisam-se métricas de justiça, como a igualdade de erros (equalized odds), a paridade demográfica (demographic parity) e outras. Se forem detectados erros sistemáticos ou enviesamentos, o modelo ou os dados são ajustados para reduzir o bias e aumentar a fairness.

Isto é especialmente importante em tarefas com impacto social, como concessão de créditos, contratação ou decisões judiciais.