Объяснимость - горячая тема. Модели Data Science используются для инициирования таких рекомендаций, как «принять» или «отклонить» ссуду, и возникает необходимость ответить «почему эта рекомендация?» . Клиенты, которых затрагивают рекомендации, спрашивают «почему», и поэтому некоторые компании готовы ответить, а в некоторых регионах правила даже запрещают использование приложений в некоторых областях, когда объяснимость недоступна. Хотя для моделей машинного обучения начинают появляться..