Quais são os métodos de desbiasagem de modelos (desbiasagem adversarial)?

A desbalanço adversarial é um método para eliminar preconceitos em modelos de aprendizagem automática através de treino competitivo. A ideia principal é treinar um modelo principal para prever a variável alvo, enquanto treina um modelo adversarial que tenta prever uma característica protegida (por exemplo, género ou raça) a partir das saídas do modelo principal. O modelo principal é otimizado para minimizar o erro de previsão e ao mesmo tempo dificultar que o modelo adversarial adivinhe a característica protegida.

Métodos de desbiasagem usando a abordagem adversarial:

• Treino adversarial: o modelo principal e o modelo adversarial treinam-se conjuntamente, onde o modelo principal tenta 'enganar' o adversarial.
• Regularização com perda adversarial: adiciona-se à função de perda um componente que penaliza o modelo por ter informação sobre a característica protegida.
• Uso de descida de gradiente com retroalimentação: os gradientes do modelo adversarial são invertidos durante a atualização do modelo principal para reduzir a dependência da característica protegida.

Exemplo de pseudocódigo:

# Modelo principal f, modelo adversarial g
for batch in data:
    y_pred = f(x)
    s_pred = g(y_pred)
    loss_main = loss_fn(y_pred, y_true)
    loss_adv = loss_fn(s_pred, s_true)
    total_loss = loss_main - lambda * loss_adv
    total_loss.backward()
    optimizer.step()

Onde lambda regula o equilíbrio entre precisão e justiça.