O que é impacto dispar?

O impacto dispar é um conceito na área de justiça em aprendizagem automática e ética de IA, que descreve uma situação em que um algoritmo ou modelo exerce uma influência negativa desproporcional sobre um grupo específico de pessoas, mesmo que o modelo não apresente viés explícito (por exemplo, por raça, sexo ou idade).

É uma discriminação indireta: o modelo pode usar características que parecem neutras à primeira vista, mas o resultado leva a uma restrição sistemática dos direitos ou oportunidades de um dos grupos.

Exemplo: pontuação de crédito, onde o algoritmo recusa com mais frequência os representantes de um grupo étnico específico, embora a pertença étnica não seja usada diretamente.

Para identificar o impacto dispar, aplicam-se métricas, por exemplo, comparando a proporção de decisões positivas para diferentes grupos. Se a diferença for demasiado grande, fala-se na presença de impacto dispar e na necessidade de ajustar o modelo para aumentar a justiça.