Was sind kontrafaktische Erklärungen?

Kontrafaktische Erklärungen sind eine Methode zur Erklärung von Entscheidungen von maschinellen Lernmodellen, die zeigen, wie man die Eingabedaten ändern muss, um ein anderes Ergebnis zu erhalten. Zum Beispiel, wenn ein Modell einen Kredit ablehnt, kann eine kontrafaktische Erklärung zeigen, dass sich die Entscheidung ändern würde, wenn das Einkommen des Kunden um 10 % höher wäre.

Dies hilft zu verstehen, welche Faktoren die Vorhersage beeinflussen, und macht das Modell transparenter und interpretierbarer, insbesondere bei komplexen Deep-Learning-Modellen.