Введение

Во второй статье мы увидим, как сервисы можно улучшить с помощью определенных алгоритмов машинного обучения. В этой статье будут рассмотрены две основные концепции. Первый касается важности открытого обсуждения при работе с результатами машинного обучения, а второй касается текущей тенденции объяснимого ИИ. Обе идеи чрезвычайно важны, и в конечном итоге они сформируют не только будущее искусственного интеллекта, но и будущее дизайна.

Что такое объяснимый ИИ (XAI)?

По мере того, как искусственный интеллект широко используется в потребительских товарах, пользователи все больше начинают беспокоиться о технических особенностях этих очень сложных алгоритмов. Часто используемый термин для описания неоднозначности этих алгоритмов — метафора «черного ящика».

Модели, используемые в искусственном интеллекте, экспоненциально усложняются. Хотя большинство из них по-прежнему используют простые линейные функции для прогнозирования результата, более быстрые графические процессоры и больше данных повысили эффективность искусственных нейронных сетей. Проще говоря, нейронные сети используют структуру функций, состоящую из нескольких слоев. Архитектура имитирует то, как устроен наш человеческий мозг. Глубокие нейронные сети — нейронные сети с несколькими слоями — при наличии достаточного количества данных могут самостоятельно изучать и находить решения практически без вмешательства человека.

Сложность этих моделей и большое количество операций, необходимых для обучения глубокой нейронной сети, затрудняют их интерпретацию. Сказать, что это «черные ящики», может быть преувеличением, тем не менее, с увеличением количества «слоев», добавленных в модель, становится все труднее полностью понять «обоснование» их результатов. Таким образом, недавний всплеск популярности ИИ объясним.

Объяснимый ИИ — это ветвь искусственного интеллекта, которая пытается разработать модели, которые не только хорошо работают, но и могут быть интерпретированы людьми. XAI кажется очень разумной концепцией, которой стоит следовать; действительно, правительственные организации, такие как DARPA, активно участвуют в финансировании исследований в этой области.

XAI еще предстоит пройти долгий путь. Многие глубокие нейронные сети, развернутые на платформах, которые мы используем ежедневно, по-прежнему используют очень непрозрачные алгоритмы, но эта область определенно движется в правильном направлении. Мы можем быть уверены, что через пару лет у нас будут более прозрачные инструменты, которые позволят нам более ответственно использовать машинное обучение.

Инструменты

В качестве очень простого примера объяснимого ИИ я представлю деревья решений. Этот класс моделей машинного обучения может классифицировать модели с помощью древовидных графов. Идея состоит в том, чтобы делать выводы из если-то-иначе правил. Это может звучать абстрактно, но основная интуиция очень похожа на то, как думают люди.

Преимущество этого типа алгоритмов машинного обучения заключается в том, что их можно довольно легко визуализировать. Как показано в примере ниже, даже не будучи экспертами в области искусственного интеллекта, мы можем понять, как работает алгоритм и как он делает выводы. Таким образом, деревья решений можно рассматривать как очень простой тип объяснимых моделей ИИ.

Пример успеха

Чтобы лучше понять, как деревья решений и другие типы моделей XAI можно применять в реальном мире, мы (еще раз) рассмотрим вымышленный консультационный проект. Представьте, что вам нужно консультировать телекоммуникационную компанию, которая недавно столкнулась с большим оттоком клиентов, отказывающихся от их услуг. Руководители этой компании понятия не имеют о причине этого. Вы, как сервис-дизайнер, должны обнаружить проблему и предложить улучшение сервиса, чтобы избежать оттока в будущем. Задача сложная, и часто бывает трудно приступить к делу — в этом могут помочь деревья решений.

В большинстве случаев клиент должен иметь значительный объем данных о каждом клиенте. Чтобы смоделировать это, мы будем использовать популярный набор данных от Kaggle под названием «Telco Customer Churn». Как следует из названия, набор данных содержит 20 переменных плюс целевую переменную, которая сообщает нам, ушел ли клиент или нет. Чтобы упростить пример, я включил в анализ только подмножество переменных (рис. 2.1.1).

Создать дерево решений с помощью scikit-learn — библиотеки машинного обучения с открытым исходным кодом — очень просто. Нам просто нужно решить, какую функцию примесей использовать (в данном случае мы используем Gini) и максимальную глубину нашей модели — по сути, сложность нашего дерева решений. После установки гиперпараметра и подгонки модели к нашим данным мы можем пересмотреть точность. В нашем примере модель из-за уменьшенного количества признаков имеет точность 70%, что, конечно, не оптимально, но все же существенно выше базовой линии. Помимо проверки точности нашей модели, мы можем построить дерево и получить визуальную обратную связь о том, как работает модель (пример 2.2.1).

Вы можете заметить, что вывод не требует пояснений. Тем не менее, я также представил упрощенную, более полную версию (пример 2.2.2). Сразу бросаются в глаза две вещи: «корень» — первый «лист» или «коробка» наверху дерева — и лист с наибольшим оттоком внизу. Мы видим, что в среднем клиенты, которые платят за «онлайн-безопасность», как правило, не так легко уходят, в то время как нестаршие клиенты, которые не платят за «онлайн-безопасность» и «интернет-услуги», имеют тенденцию к оттоку — на самом деле большинство они в конечном итоге свернутся. Все эти выводы чрезвычайно ценны для нашего консалтингового проекта, но сами по себе они не объясняют, почему вероятность оттока меняется на разных этапах или «уходах». Чтобы лучше понять их, мы должны использовать нашу врожденную человеческую интуицию и рассматривать вероятности в контексте.

В дизайне услуг мы используем сеансы совместного творчества для анализа исследований, разработки новых идей и проверки прототипов. Объединение самых разных людей вместе может раскрыть творческий потенциал. Гипотеза состоит в том, что вместе мы можем найти лучшие решения. Как отмечалось ранее, часто бывает трудно сделать первый шаг к запуску творческого процесса. Деревья решений могли бы смягчить ситуацию, они могли бы стать основой для обсуждения идей и решений о том, как предотвратить отток клиентов. Люди очень хорошо обобщают понятия и связывают воедино различные интуитивные явления. В нашем примере мы можем представить, что, организовав сеанс совместного творчества и совместно обсудив дерево решений, мы можем легко прийти к предположениям о том, почему, например, молодые клиенты, которые не платят за «интернет-услуги», скорее всего, взбивать. Тогда наши предположения могли бы кристаллизоваться в ценные решения.

Это тесное взаимодействие между выводами машины (деревом решений) и человеческой интуицией можно назвать коллективным разумом. Модное новое слово, которое, скорее всего, будет определять то, как мы будем работать в будущем.

Структура

Структура этого упражнения достаточно проста. Мы начинаем с анализа дерева решений по количественным данным, относящимся к оттоку клиентов. Мы проверяем точность и распечатываем визуальное представление дерева решений. После этого организуем сессию совместного творчества, на которую стараемся пригласить широкий круг участников. Оптимально, руководители, инженеры, продавцы и, если возможно, клиенты.

Вместе мы можем использовать дерево решений в качестве основы для мозгового штурма и создавать предположения о том, почему клиенты уходят на разных этапах, и, наконец, мы можем предложить некоторые потенциальные решения.

Как бы просто это ни звучало, такой способ работы может оказаться чрезвычайно полезным для обнаружения проблем в сложных службах и быстрого улучшения предлагаемых услуг.

Заключение

Деревья решений — это лишь один очень простой пример объяснимых моделей ИИ. Как описано в начале этой статьи, область XAI динамична, и мы можем ожидать, что в ближайшем будущем мы увидим новые модели, методы и инструменты, которые дадут нам новые возможности для взаимодействия с алгоритмами. Можно утверждать, что объяснимый ИИ, пожалуй, самая интересная область искусственного интеллекта сегодня для практиков сервис-дизайна. XAI позволяет нам лучше понять, как работают алгоритмы, и делать прогнозы. Эта новая прозрачность того, как работают внутренние алгоритмы, открывает новые возможности для коллективного принятия решений, которые могут быть облегчены путем принятия методологий дизайн-мышления.

В заключение я хочу подчеркнуть тот факт, что деревья решений не всегда могут быть лучшим решением, они довольно часто переобучаются. Тем не менее, их можно использовать в простых сценариях, когда нам не нужно иметь слишком много функций одновременно, а модели не должны быть чрезвычайно точными. В этом случае дерево решений — это просто начало разговора, а не модель, предназначенная для развертывания в клиентском приложении — это инструмент анализа. Таким образом, деревья решений вполне подходят для целей упражнений, описанных в этой статье.