По мере того, как модели становятся все более мощными, их становится все труднее понять, что создает потенциальные проблемы с соблюдением требований в финансовых службах. Объяснимое машинное обучение призвано помочь вам не только съесть свой пирог, но и съесть его.

— —

Необходимость «показать свою работу» преподается на уроках математики в начальной школе по всей стране. Окончательный ответ важен, но процесс определения ответа не менее важен. Та же концепция применима и в деловом мире, где нам часто приходится объяснять, почему мы приняли решение. В регулируемых отраслях эти решения и объяснения часто тщательно проверяются регулирующими органами, чтобы предотвратить предвзятость и финансовые риски, поэтому точные объяснения не просто важны — они являются обязательным требованием.

Хорошим примером этого является потребительское кредитование в США, где такие законы, как Закон о равных кредитных возможностях («ECOA») и его имплементирующее положение, Положение B, предъявляют особые требования к кредиторам, в том числе готовят «Уведомление о неблагоприятных действиях» для каждого отклоненная заявка. Эти уведомления должны содержать конкретные причины, по которым заявка была отклонена, и недостаточно сказать «Слишком высокий риск» или «Не соответствует требованиям» — причины должны быть точными, например, «Чрезмерные обязательства в отношении дохода» или «Просроченные прошлые или настоящие кредитные обязательства перед другими».

По этим причинам, когда компании, предоставляющие финансовые услуги, стремятся внедрить машинное обучение, «объяснимость» часто является главным препятствием. Методы, используемые в машинном обучении, создают чрезвычайно точные прогностические модели, однако получающиеся в результате алгоритмы слишком сложны, чтобы их можно было визуализировать или легко объяснить простым языком. В этом нет никакой магии — обученные алгоритмы — это просто «код», однако они содержат тысячи или миллионы отдельных факторов, а многомерный характер этих моделей затрудняет их понимание. Поэтому, хотя эти модели обеспечивают более точные решения, им не хватает объяснения или важного компонента «показать свою работу».

Объяснимые решения машинного обучения

Объяснимое машинное обучение — это новая концепция, впервые предложенная такими компаниями, как DigiFi. Это простая идея — использовать возможности машинного обучения следующего поколения, четко объясняя каждое решение — однако реализация очень сложна по причинам, изложенным выше.

Большинство клиентов DigiFi являются регулируемыми финансовыми учреждениями, и в течение последнего года мы усердно работали над тем, чтобы сделать полностью объяснимое машинное обучение реальностью. Мы подошли к проблеме уникальным способом, который решает многие типичные проблемы с помощью сложного анализа логических выводов, который четко определяет, какие факторы повлияли на каждое решение.

На высоком уровне наш анализ логического вывода работает следующим образом:

  • Шаг 1: мы пропускаем данные решения через модель машинного обучения, вырабатывая решение
  • Шаг 2: Мы запускаем тысячи перестановок данных о решениях через модель — каждый раз с небольшими корректировками — для имитации воздействий.
  • Шаг 3: Мы сравниваем первоначальное решение с скорректированными решениями, динамически определяя, какие переменные имеют наибольшие положительные и отрицательные результаты для решения.

Результатом этого процесса (показан ниже) является четкий набор информации, которая точно объясняет решение и факторы, которые его определили.

Результаты

Вот результат типичного необъяснимого процесса принятия решений с помощью машинного обучения. Он содержит ответ, но не пытается его объяснить. Для некоторых типов решений это нормально, но регулируемым предприятиям будет сложно использовать этот тип решений в производственной среде.

Вот результат, который выдает DigiFi. Само решение такое же, однако мы также детализируем переменные, которые оказали наибольшее положительное и отрицательное влияние на результат, аналогично кодам причин, предоставляемым кредитными баллами, такими как FICO, с которыми знакомы кредиторы.

В основе этих факторов лежат подробные результаты проведенного нами моделирования и числовые факторы, которые обеспечивают комплексный контрольный журнал принятия решений. Эти факторы можно использовать для объяснения решения и соблюдения нормативных и нормативных требований.

Нижняя линия

Прогнозирующие модели машинного обучения могут принести кредиторам значительные преимущества, включая более высокий уровень одобрения, более точные решения и более высокий уровень автоматизации задач, которые ранее выполнялись вручную. Компании, предоставляющие финансовые услуги, столкнулись с проблемами при внедрении машинного обучения, в основном из-за проблем с соблюдением требований, и такие компании, как DigiFi, работают над прямым решением этой проблемы с помощью объяснимых моделей машинного обучения. Если вам интересно обсудить, как наша объяснимость может ускорить внедрение машинного обучения в вашей компании, мы будем рады пообщаться.