O que é calibragem e por que é importante para a justiça?

A calibração (ajuste) no aprendizado de máquina é uma propriedade do modelo na qual as probabilidades previstas correspondem às probabilidades reais de eventos. Por exemplo, se o modelo diz que um evento ocorrerá com uma probabilidade de 0,7, então aproximadamente em 70% desses casos, o evento realmente acontece.

A calibração é importante para a equidade, porque probabilidades desequilibradas ou mal calibradas podem levar a erros sistemáticos em diferentes grupos de usuários. Se o modelo superestima a probabilidade para um grupo e subestima para outro, isso pode levar a um tratamento injusto, por exemplo, à discriminação na tomada de decisões.

Portanto, uma boa calibração ajuda a garantir que o modelo reflita de forma honesta e objetiva os riscos ou chances para todos os grupos, aumentando a confiança e a justiça na tomada de decisões.