Cosa sono le spiegazioni controfattuali?

Le spiegazioni controfattuali sono un metodo per spiegare le decisioni dei modelli di apprendimento automatico, mostrando come modificare i dati di input per ottenere un risultato diverso. Ad esempio, se un modello rifiuta un prestito, una spiegazione controfattuale può mostrare che se il reddito del cliente fosse superiore del 10%, la decisione cambierebbe in approvazione.

Questo aiuta a capire quali fattori influenzano la previsione e rende il modello più trasparente e interpretabile, soprattutto nei modelli complessi di deep learning.