Что такое counterfactual explanations?

Counterfactual explanations — это метод объяснения решений моделей машинного обучения, который показывает, как нужно изменить входные данные, чтобы получить другой результат. Например, если модель отказала в кредите, counterfactual объяснение может показать, что если бы доход клиента был выше на 10%, решение изменилось бы на одобрение.

Это помогает понять, какие факторы влияют на предсказание, и делает модель более прозрачной и интерпретируемой, особенно в сложных моделях глубокого обучения.