В машинном обучении контрфактуалы относятся к гипотетическим сценариям, которые описывают изменение результата прогноза модели, если бы одна или несколько входных характеристик были другими. Эти сценарии могут помочь понять, как модель пришла к определенному прогнозу, и могут использоваться для выявления и исправления любых предубеждений или ошибок в модели. Контрфактический анализ также можно использовать для создания новых и альтернативных входных данных, которые приводят к другому прогнозу, что может быть полезно для создания новых данных для обучения или для проверки надежности модели.
Например, предположим, что модель обучена предсказывать, не выполнит ли заявитель кредита свои обязательства по кредиту, основываясь на его кредитном рейтинге, доходе и другой финансовой информации.
Если модель отклоняет заявку на получение кредита, можно использовать контрфактический анализ, чтобы понять, почему было принято решение, путем определения входных признаков, которые оказали наибольшее влияние на прогноз. Например, анализ может выявить, что основной причиной отказа был низкий кредитный рейтинг заявителя. Обладая этой информацией, заявитель может улучшить свой кредитный рейтинг и повторно подать заявку на получение кредита.
В качестве альтернативы можно использовать контрфактические модели для создания новых сценариев, таких как изменение дохода или статуса занятости заявителя, чтобы увидеть, как эти изменения повлияют на прогноз модели. Это может быть полезно для выявления любых потенциальных предубеждений в модели, таких как дискриминация по признаку расы, пола или возраста. Например, если прогноз модели значительно меняется при изменении расы или пола заявителя, это может указывать на то, что модель несправедлива и принимает решения на основе защищенных атрибутов.
В целом контрфактуалы могут помочь улучшить интерпретируемость и объективность моделей машинного обучения, предоставляя способ понять процесс принятия решений в модели и выявляя любые потенциальные предубеждения или ошибки в модели.
