Новая концепция, призванная сделать ИИ более ценным для бизнеса.

Введение

Объяснимый ИИ набирает обороты. Он указывает на группу методов ИИ, понятных людям, и открывает черный ящик в машинном обучении; путем выяснения того, какой фактор вносит какой вклад в результат машинного обучения.

Ответственный ИИ — это своего рода детище Объяснимого ИИ. Он принимает во внимание этику, справедливость, минимизацию непреднамеренной предвзятости, конфиденциальность и безопасность. Мы можем вспомнить, что был некоторый общественный резонанс, когда модель искусственного интеллекта распознавания изображений, казалось, дискриминировала определенную группу людей. Неосознавание предвзятости ИИ приведет к недоверию людей к ИИ. Ответственный ИИ — важная тема для рассмотрения каждой компанией, чтобы продолжать привлекать внимание людей к развитию ИИ в долгосрочной перспективе.

Здесь, в этом посте, я хочу предложить еще одну новую концепцию «Действующий ИИ».

Действенный ИИ

Я бы назвал «Действующий ИИ» дочерним элементом Объяснимого ИИ и родственником Ответственного ИИ.

Давайте поговорим на примере:

  • Объяснимый ИИ похож на «Ваша заявка на кредит была отклонена. Первая причина в том, что ваш доход низкий, что снижает вероятность на 30%. Во-вторых, ваш оставшийся ипотечный кредит все еще слишком высок, что снижает вероятность на 15%. Третий…"
  • Действенный ИИ похож на «Ваша заявка на кредит была отклонена. Когда ваш доход превышает 100 000 долларов США, а размер ипотечного кредита составляет менее 50 000 долларов США, мы, скорее всего, одобрим вашу повторную заявку».

По-видимому, комментарий Действенного ИИ дает нам уточненное направление, что мы должны сделать, чтобы изменить результат.

Характеристика результата наиболее полезного действенного ИИ заключается в том, что он дает точную встречную выборку (т. е. «отклонение» -> «одобрение»), которая следует следующим принципам:

  • он изменяет наименьшее количество атрибутов и
  • он изменяет только управляемые факторы с управляемой комбинацией.

Что касается второго принципа, анти-паттерн звучит так: «Сейчас у вас есть степень бакалавра, но если вы сможете стать доктором наук в том же возрасте, что и вы, вас одобрят». Этого не произойдет, тогда мы не можем назвать это действенным!

Два типа действенных образцов

Здесь мы рассмотрим два возможных типа действенных выборок, что в данном случае означает контрвыборку, к которой мы можем приблизить текущие данные, чтобы получить противоположный результат (например, «отказ в ссуде» -> «кредит одобрение").

  • На основе моделирования. Чтобы предоставить виртуальные образцы, наиболее близкие к данным, для выполнения действия (так называемые данные запроса), но дать противоположный результат. Для этого подхода DiCE — это библиотека Python, которая поможет нам их получить. Ниже приведен пример вывода DiCE с использованием данных Titanic. Реальность жестока; если бы пассажир в экземпляре запроса был пассажиром первого класса, который платил как минимум вдвое больше, чем взрослый, или мальчиком или младенцем в первом классе, у него могло бы быть больше шансов выжить.

  • На основе примера. Для поиска выборки включались обучающие данные, наиболее близкие к данным запроса, но дающие противоположный результат. Этот подход аналогичен объяснению объяснимого ИИ на основе примеров, но отличается тем, что действенный ИИ должен давать образцы для противоположных результатов (т. е. дает образец одобрения для отклоненного случая).

Ожидается, что процесс получения действенных образцов будет включать следующие технические темы:

  • оптимизация (т. е. минимизация изменений факторов от данных запроса до действенной выборки)
  • с ограничениями (т. е. избегать недостижимой комбинации изменений) и
  • причинно-следственная связь (т. е. изменение действительно должно привести к ожидаемому направлению).

Заключительное примечание

В этом посте я предлагаю новую концепцию ИИ «Действующий ИИ». Следуя четырем типам эволюции бизнес-аналитики, действенный ИИ определенно попадает в список самых полезных предписаний.

В этой зрелости аналитики анализ будет не только генерировать прогноз, но и шагать в приложение для использования в бизнесе, предоставляя конкретные примеры того, что мы можем сделать, и если мы это сделаем, что произойдет. Действенный ИИ может стать новой концепцией для более непосредственного реагирования на эти потребности в бизнесе.

Ссылка