Почему дизайн, ориентированный на человека, делает ИИ лучше
Технологии на базе искусственного интеллекта должны быть основаны на человеческих потребностях
«Меня беспокоит тот энтузиазм по поводу искусственного интеллекта. мешает нам считаться с его надвигающимся воздействием на общество. Несмотря на название, в этой технологии нет ничего «искусственного» - она создана людьми, предназначена для поведения людей и влияет на людей. Поэтому, если мы хотим, чтобы он играл положительную роль в завтрашнем мире, он должен руководствоваться человеческими заботами ».
Недавно я наткнулся на Руководство Google People + AI, опубликованное Google в 2019 году, чтобы помочь UX-профессионалам и менеджерам по продуктам следовать подходу к ИИ, ориентированному на человека.
Просматривая Руководство Google, вы можете задаться вопросом, почему дизайн, ориентированный на человека, так важен для разработки ИИ. Эксперты говорят, что единственный путь вперед состоит в том, чтобы технологии на базе искусственного интеллекта основывались на человеческих потребностях и работали над расширением и улучшением наших возможностей, а не заменяли их.
«Умные технологии вряд ли приведут к разумным результатам, если они не предназначены для содействия разумному внедрению со стороны конечных пользователей-людей. Успешные приложения ИИ зависят не только от больших данных и мощных алгоритмов. Дизайн, ориентированный на человека, также имеет решающее значение. Приложения ИИ должны отражать реалистичные представления о потребностях пользователей и психологии человека »
- Делойт:« Вместе умнее: почему искусственному интеллекту нужен дизайн, ориентированный на человека »
Почему ИИ иногда проваливается
ИИ, несомненно, переживает свой золотой век, его называют новым электричеством, и он призван стать королем мировой экономики с разрушительным потенциалом во всех отраслях. Ловушки ИИ, однако, попали в заголовки газет, но, похоже, исчезают в общей шумихе вокруг ИИ. Как отмечает Deloitte, алгоритмы ИИ, встроенные в повсеместные цифровые технологии, могут кодировать социальные предубеждения, распространять заговоры, распространять фальшивые новости, усиливать эхо-камеры общественного мнения, отвлекать наше внимание и даже ухудшать наше психическое благополучие.
Многие крупномасштабные проекты искусственного интеллекта, которые стали грушевидными, такие как неудача на 62 миллиона долларов по диагностике болезни Ватсона от IBM, дружелюбный чат-бот в Twitter от Microsoft, ставший расистским в течение 24 часов, и инструмент найма искусственного интеллекта от Amazon, который отдавал предпочтение белым мужчины, работающие на инженерных должностях, и это лишь некоторые из них, демонстрируют присущие ИИ проблемы предвзятости, справедливости и прозрачности, которые в конечном итоге ухудшают взаимодействие с пользователем и препятствуют его принятию.
Частично проблема связана с распространенным непониманием того, что ИИ может и что не может делать. ИИ по-прежнему имеет много ограничений. Да, машинное обучение, применяемое к большим данным, позволяет создавать мощные приложения искусственного интеллекта, начиная от беспилотных автомобилей и распознавания лиц до послов цифровых брендов, личных помощников с поддержкой речи, написания новостных статей, стихов и кода. »И установка людей на свидания . Во многих случаях ИИ выполняет эти задачи так же хорошо или точнее, чем люди. Странное качество таких приложений может привести вас к выводу, что компьютеры внедряют или быстро приближаются к типу человеческого интеллекта в том смысле, что они понимают, что делают. Но это еще не так. Сегодняшние алгоритмы искусственного интеллекта умны в узком смысле, а не в более общем смысле, в котором умны люди.
«Алгоритмы« демонстрируют неявные знания, подобные человеческим », только в том слабом смысле, что они построены или обучены с использованием данных, которые кодируют неявные знания большого количества людей, работающих за кулисами. Для обозначения этого процесса часто используется термин «машинное обучение без участия человека». Хотя большие данные и машинное обучение позволяют создавать алгоритмы, которые могут улавливать и передавать смысл, это сильно отличается от понимания или создания смысла. »
- Deloitte: «Вместе умнее: почему искусственному интеллекту нужен дизайн, ориентированный на человека
В настоящее время люди могут обучать мощные алгоритмы обрабатывать огромные объемы данных и делать интеллектуальные, в основном точные и быстрые прогнозы, но они не могут - пока что - продемонстрировать общий человеческий интеллект, то есть испытать, воспринимать и анализировать мир в глубоко контекстуальном, сложном и тонкими способами, как это делают люди. И это оказывает прямое влияние на пользовательский опыт ИИ.
Что означает дизайн, ориентированный на человека, для ИИ
Ясно, что продукты ИИ нельзя создавать в вакууме - как отмечает Фей-Фей Ли, главный научный сотрудник отдела исследований ИИ в Google Cloud, текущие ограничения ИИ и потенциальные проблемы означают, что приложения ИИ должны:
- в большей степени отражают глубину, обнаруженную в нашем собственном интеллекте и восприятии мира (за счет многопрофильного сотрудничества между инженерами, специалистами по обработке данных, дизайнерами, когнитивными психологами и другими ориентированными на человека дисциплинами и экспертами),
- сосредоточиться на улучшении, а не замене людей, и
- убедитесь, что разработка этой технологии руководствуется на каждом этапе заботой о ее воздействии на людей.
Если вы не знакомы с проектированием, ориентированным на человека, это подход к решению проблем, обычно используемый в рамках проектирования и управления, который разрабатывает решения проблем, вовлекая человеческую точку зрения на всех этапах процесса решения проблем.
Дизайн, ориентированный на человека, направлен на то, чтобы сделать системы удобными и полезными, сосредоточив внимание на пользователях, их потребностях и требованиях и применяя человеческий фактор / эргономику, а также знания и методы удобства использования. Этот подход предназначен для повышения эффективности и результативности, улучшения благосостояния людей, удовлетворенности пользователей, доступности и устойчивости, а также противодействия возможным неблагоприятным последствиям использования для здоровья, безопасности и производительности человека.
Термин ориентированная на человека система был придуман в 2008 году Майком Кули, инженером ирландского происхождения, который изучал социальные эффекты технологий и утверждал, что:
«Человеческая ориентированность утверждает, во-первых, что мы всегда должны ставить людей выше машин, какой бы сложной или элегантной ни была эта машина, а, во-вторых, она восхищает и восхищает способностями и изобретательностью людей. . Движение «Системы, ориентированные на человека» внимательно изучает эти формы науки и технологий, которые отвечают нашим культурным, историческим и социальным требованиям, и стремится разработать более подходящие формы технологий, отвечающие нашим долгосрочным чаяниям. В системе, центрированной на человеке, существует симбиотическая связь между человеком и машиной, в которой человек будет обрабатывать качественные субъективные суждения, а машина - количественные элементы. Он включает в себя радикальную переработку интерфейсных технологий, и на философском уровне цель состоит в том, чтобы предоставить инструменты, которые поддержали бы человеческие навыки и изобретательность, а не машины, которые объективировали бы эти знания ».
Глобальная дизайнерская фирма IDEO расширила практику дизайнерского мышления, работая со Стивом Джобсом над дизайном первой мыши Apple в 80-х годах и первого ноутбука в стиле ноутбука для GRiD Systems, переопределяя то, как пользователи взаимодействуют с компьютерами. ко многим другим плодотворным проектам в области здравоохранения, образования и др. Сегодня IDEO находится в авангарде расширенного интеллекта, объединяя машинное обучение с ориентированным на человека дизайном путем интеграции специалистов по данным в свои проектные группы, работая бок о бок с исследователями-проектировщиками, инженерами и дизайнерами взаимодействия в ответ на рост спрос со стороны клиентов на базе искусственного интеллекта. В одном из таких успешных проектов IDEO помогла Motorola превратить горы отзывов клиентов в улучшения продукта в режиме реального времени.
«У нас есть несколько отличных стульев и мобильных телефонов в мире, но у нас много не очень хороших систем. Системы не проектируются один раз, а потом их оставляют работать. Они действуют больше как биологические, чем машины, и нам нужно сделать эти системы сверхразумными, чтобы они могли развиваться и учиться, но им нужно учиться в сотрудничестве с людьми ».
- Генеральный директор Ideo Тим Браун
Как разработать ИИ, ориентированный на человека
«При создании любого продукта, ориентированного на человека, вы должны принять наиболее важные решения: кто ваши пользователи? Каковы их ценности? Какую проблему вы должны решить за них? Как вы решите эту проблему? Как вы узнаете, что опыт «готов»?
В справочнике Google People + AI Guidebook используется пример приложения RUN, которое использует ИИ, чтобы помочь пользователям разнообразить свои пробежки, предлагая новые беговые дорожки, отслеживая их ежедневные пробежки и встречаясь с другими бегунами с их уровнем навыков, чтобы они могли сохранять мотивацию продолжать бег. . Рекомендации Руководства, основанные на данных и мнениях более сотни человек из групп продуктов Google, отраслевых экспертов и академических исследований, даны в контексте приложения RUN и подчеркивают, что вам необходимо учитывать при разработке ИИ с использованием ориентированной на человека подход. Вот 10 моих главных выводов:
1 / Понять , какие пользовательские проблемы являются хорошими кандидатами на ИИ. Убедитесь, что вы решаете реальную проблему таким образом, чтобы ИИ имел уникальную ценность. абсолютно ключ к успеху вашего продукта. Спросите, действительно ли добавление ИИ к вашему продукту улучшит его или может ухудшить впечатление?
Искусственный интеллект полезен, когда вы хотите дать разные рекомендации разным пользователям (например, персональные рекомендации по работе в LinkedIn), предсказать будущие события (например, цены на авиабилеты через три месяца), персонализировать продукт (например, термостат для умного дома), понимать естественный язык (как Alexa или другие личные помощники), распознавать и классифицировать большие объемы данных (например, добавление тегов к изображениям в социальных сетях), обнаружение эволюционирующих закономерностей в больших данных (например, мошеннических транзакций с кредитными картами), создание взаимодействия с агентом или ботом для определенного домен или автоматизированный процесс (например, бронирование гостиниц или запросы в службу поддержки) и показ динамического контента, когда это более эффективно, чем предсказуемый интерфейс (например, предложения фильмов Netflix и Amazon). И наоборот, когда пользовательский опыт лучше, если вы сохраняете предсказуемость интерфейса, минимизируете ошибки, предоставляете статическую или ограниченную информацию или не автоматизируете задачу, ИИ, вероятно, не является идеальным решением.
2 / Подумайте о «автоматизации» и «расширении» - автоматизируйте задачи, которые являются сложными, неприятными или требуют масштабирования; дополняйте задачи, которые людям нравится делать, которые несут в себе социальный капитал или где люди не согласны с «правильным» способом их выполнения.
3 / Разработайте «функцию вознаграждения» (математическую формулу, которую модель ИИ использует для определения «правильных» и «неправильных» прогнозов и является основной движущей силой конечного пользователя. опыт) с кросс-функциональной командой (включая инженеров, UX и продукт, по крайней мере), оптимизируя долгосрочные выгоды для пользователей, воображая последующие эффекты вашего продукта. Взвешивание «стоимости» различных типов ошибочных прогнозов, сделанных моделью, может значительно повлиять на пользовательский опыт, поскольку одни ошибки будут более критичными, чем другие. Определенные компромиссы в производительности неизбежны и зависят от того, чего ваши пользователи ожидают от продукта и что даст им ощущение завершенности задачи. Также крайне важно отслеживать производительность модели и отзывы пользователей с течением времени на основе четких показателей успеха и при необходимости настраивать ее, поскольку вы не сможете заранее предвидеть все подводные камни.
4 / Преобразуйте потребности пользователей в потребности в данных - определите тип данных, необходимых для обучения вашей модели, с учетом предсказательной силы, релевантности, справедливости, конфиденциальности и безопасности. Ваш набор обучающих данных должен иметь функции и широту, чтобы ваш ИИ отвечал потребностям ваших пользователей; вы можете рассмотреть преимущества или недостатки использования существующего набора данных по сравнению с созданием собственного набора данных на заказ; и вы захотите убедиться, что оценщики / составители этикеток не вносят ошибки или смещения в наборы данных при создании этикеток и что ваш набор данных достаточно широк и разнообразен для ваших целей и отражает, насколько это возможно, данные, с которыми он столкнется в реальной жизни. Мир.
5 / Тщательный дизайн для оценщиков и маркировки - для контролируемого обучения наличие точных меток данных имеет решающее значение для получения полезных результатов от вашей модели. Продуманный дизайн инструкций оценщика и последовательности операций пользовательского интерфейса поможет получить более качественные метки и, следовательно, лучший результат. После запуска модели интерпретируйте выходные данные машинного обучения, чтобы убедиться, что они соответствуют целям продукта и потребностям пользователей. Если это не так, устраните неполадки: изучите возможные проблемы с вашими данными или инструкциями по маркировке.
6 / Ответственный подход к источникам данных и настройка модели. Независимо от того, используете ли вы предварительно помеченные данные или собираете свои собственные, очень важно оценить ваши данные и метод сбора, чтобы убедиться, что они подходит для вашего проекта. Как только модель будет запущена, оцените результат, чтобы определить, удовлетворяет ли она потребности вашего целевого пользователя в соответствии с определенными вами метриками успеха. В противном случае вам может потребоваться настроить его, отрегулировав параметры модели или функцию вознаграждения, или устраняя неполадки с данными тренировки. Попытайтесь связать изменения модели с четкой метрикой субъективного опыта пользователей, например с удовлетворенностью клиентов или с тем, как часто пользователи принимают рекомендации модели.
7 / Подготовьте ментальные модели пользователей и помогите им понять, как обучать систему - установите ожидания относительно того, что продукт может и чего не может, какую пользу люди могут ожидать от него, как он может измениться и как его улучшить. Важно учитывать ожидания пользователей от взаимодействия с людьми и помогать пользователям откалибровать свое доверие - люди с большей вероятностью будут иметь недостижимые ожидания в отношении продуктов, которые, по их мнению, обладают человеческими способностями. Важно сообщить об алгоритмической природе и ограничениях этих продуктов, чтобы сформировать реалистичные ожидания пользователей и избежать непреднамеренного обмана. Поскольку продукты ИИ основаны на статистике и вероятности, пользователь не должен полностью доверять системе. Включите системные объяснения, чтобы пользователь знал, когда доверять прогнозам системы, а когда применять собственное суждение.
8 / Оптимизация для понимания и управления влиянием на решения пользователей. В некоторых случаях может не быть явного и исчерпывающего объяснения выходных данных сложного алгоритма. Даже разработчики ИИ могут не знать точно, как он работает. В других случаях аргументы, лежащие в основе прогноза, могут быть известны, но их трудно объяснить пользователям в терминах, которые они поймут. Во многих случаях лучший подход - не пытаться объяснять все, а только те аспекты, которые влияют на доверие пользователей и принятие решений. Некоторые методы, такие как объяснение системы или выходных данных, прозрачность источника данных и отображение достоверности модели, могут помочь пользователю понять систему и довериться ей. Системы искусственного интеллекта часто генерируют выходные данные, которые необходимо использовать пользователю. Если, когда и как система рассчитывает и показывает уровни уверенности, это может иметь решающее значение для информирования пользователя о принятии решения и проверки его доверия.
9 / Согласование обратной связи с улучшением модели. Использование обратной связи - мощный и масштабируемый способ улучшить ваши технологии, предоставить персонализированный контент и улучшить взаимодействие с пользователем. Для продуктов ИИ обратная связь и контроль пользователей имеют решающее значение для улучшения производительности вашей базовой модели ИИ и улучшения взаимодействия с пользователем. Когда у пользователей есть возможность оставить отзыв, они могут сыграть непосредственную роль в персонализации своего опыта и максимизации пользы, которую приносит им ваш продукт. Когда у пользователей есть необходимый уровень контроля над системой, они с большей вероятностью будут ей доверять.
10 / Подумайте о потенциальных ошибках и путях продвижения вперед. В системах искусственного интеллекта ошибки могут исходить из многих источников, их труднее идентифицировать и они могут показаться пользователю и создателям системы неинтуитивно. взаимодействуют с вашим продуктом, они будут тестировать его так, как вы не можете предвидеть в процессе разработки. Произойдут недопонимания, фальстарты и несоответствия, поэтому разработка для таких случаев является ключевым компонентом любого продукта, ориентированного на пользователя. Ошибки - это тоже возможности. Они могут способствовать более быстрому обучению путем экспериментов, помогать устанавливать правильные ментальные модели и побуждать пользователей оставлять отзывы. Создание путей для пользователей, которые должны предпринять действия в ответ на обнаруженные ими ошибки, побуждает терпение к системе, поддерживает отношения между пользователем и ИИ и способствует лучшему общему опыту.
Вывод
Даже лучший ИИ потерпит неудачу, если он не будет представлять уникальную ценность для пользователей. Вместо того, чтобы спрашивать «Можем ли мы использовать ИИ для выполнения X», начните исследовать ориентированные на человека решения ИИ с вопроса: «Как мы можем решить проблему X для наших пользователей?» Может ли ИИ решить эту проблему уникальным способом? ».
Чтобы уловить истинную ценность ИИ и гарантировать, что ваш продукт не только успешно создан, но и будет успешно принят и любим вашими пользователями, проектируйте продукты ИИ через призму, ориентированную на человека - учитывайте человеческие ценности, этику, восприятие и потребности в интеллектуальные системы и сосредоточение внимания на расширении (а не замене) человеческих возможностей и опыта - хорошее место для начала. Как сказал пионер дизайна, ориентированного на пользователя Дон Норман, «ИИ должен принимать человеческое поведение таким, какое оно есть, а не таким, каким мы хотели бы его видеть».
…………………………..
