В этой статье описывается, как подходы к проектированию, ориентированные на человека, могут помочь преодолеть разрыв между тем, что может делать ИИ, и тем, что является ценным. Используя ориентированный на человека дизайн для технологии сортировки на базе искусственного интеллекта в контексте отделения неотложной помощи, мы разработали для повышения квалификации медсестер, более быстрой и качественной сортировки и лучшего обслуживания пациентов.

Определить критерии успеха для моделей ИИ далеко не просто. Это требует передовых знаний как в области информатики, так и в области науки о данных, а также способности переводить события и действия в мире в сети весов, переходов, целевых состояний и устанавливать критерии точности и точности для желаемых порогов. Тем не менее, этого далеко недостаточно, чтобы понять, как служба на основе ИИ приносит пользу пользователям, клиентам, организациям и другим заинтересованным сторонам при внедрении службы. Функциональность, управляемая данными и искусственным интеллектом, создает новые возможности и проблемы, а требуются новые навыки и подходы с точки зрения проектирования.

Что ценно?

Взгляните на рисунок выше. Может показаться простым думать, что предоставление ценных услуг — это всего лишь вопрос использования передового машинного обучения для решения проблемы. Но хорошенько подумайте о загадочной серой стрелке, указывающей от поддерживающей технологии к созданию ценности. Как именно это происходит? Часто команды попадают в ловушку позитивистской технологии и выдвигают наивную и чрезмерно упрощенную гипотезу о том, как происходит создание ценности. Одним из известных и комичных примеров является автоматическая футбольная камера, которая следовала за головой рефери вместо мяча в матче между Инвернесс Каледониан Тистл и Эйр Юнайтед на стадионе Каледониан в Инвернессе в ноябре 2020 года. Конечно, проблема заключалась в том, что детектирование изображения программное обеспечение сосредоточено только на наиболее очевидной задаче (следите за круглой формой света на зеленом фоне), не принимая во внимание ни реальный мир, ни то, чем занимается оператор камеры. Даже совсем начинающий оператор, ничего не смыслящий в футболе, поймет, что за головой арбитра следить нельзя, даже если она по характеристикам похожа на футбольный мяч. Успешное описание рабочего процесса состоит не только из того, что делать, но и из того, что нельзя делать. Ценность заключается в непредвиденных реальных применениях как предсказания, так и оценки.

Другая проблема с таинственной серой стрелкой на рисунке выше заключается в том, что она предполагает, что применение технологии (например, машинного обучения) имеет некую врожденную, почти магическую способность «создавать ценность». Стрелка сильно вводит в заблуждение. Давайте распакуем это и обновим рисунок!

Стоимость создается в процессе использования

Чтобы понять, как используется или создается ценность, нам нужно понимать, как используются технологии. Это краеугольный камень дизайна, ориентированного на человека, и он связан с тем, как восприятие, познание и поведение влияют на создание ценности. Ценность возникает тогда, когда в дизайне учитываются навыки, рабочий процесс и пользовательский опыт.

Различные разновидности дизайна — будь то бизнес-дизайн, сервис-дизайн, UX-дизайн или дизайн взаимодействия — все оттачивают опыт, рабочие процессы, навыки и использование в данной реальной ситуации. Этот подход необходимо понимать для любых усилий и услуг по созданию ценности.

Мы можем вообще пропустить серую стрелку, потому что, как оказалось, она не только пропускает решающий шаг использования, но и движется в неправильном направлении.

Лучше начать с того, что ценно — в нефильтрованном и аутентичном контексте использования. Понимание поведения и пользовательского опыта позволит сделать более точные выводы относительно технологических требований. (Например, камера не должна путать человеческую голову с футбольным мячом.) Благодаря более твердому пониманию подлинного использования и опыта вы можете предъявлять более высокие требования к технологии. Следующий шаг становится интересным для сервисов на основе ИИ: убедитесь, что вы разрабатываете непрерывный сбор данных для улучшения модели ИИ.

Обновленный процесс начинается с исследования, основанного на инсайтах, чтобы выявить, что ценно в конкретной ситуации. Затем мы переходим к пониманию поведения и опыта, а также к тому, как вспомогательные технологии могут их поддерживать.

В частности, для технологии машинного обучения нам необходимо разработать непрерывный сбор данных посредством взаимодействия с пользователем, чтобы переобучить и улучшить модель прогнозирования. Затем это может привести к увеличению ценности использования. Этот пятиэтапный процесс (представленный на рисунке выше) соответствует тому, как работает Виртуозный цикл ИИ (придуманный Эндрю Нг). С данными служба машинного обучения становится лучше; лучший сервис привлекает больше пользователей; больше пользователей генерируют больше данных, которые могут сделать сервис еще лучше, и так далее. Но критически важным аспектом этого является сбор правильных данных таким образом, чтобы не снижать ценность пользовательского опыта во время использования. Это также предполагает, что данные используются для мониторинга положительных результатов и воздействия с течением времени.

В хорошо спроектированном сервисе данные, которые возвращаются назад, связывают как действия, так и воздействие с прогнозом и суждением, позволяя улучшать как модель прогнозирования, так и человека (супер-зарядка пользователя и расширение его навыков). Давайте посмотрим, как этого можно добиться, используя процессы, ориентированные на дизайн, для сортировки в отделении неотложной помощи.

Отделение неотложной помощи с искусственным интеллектом

Основной задачей лиц, осуществляющих уход в отделении неотложной помощи (ER), является проведение сортировки. Сортировка – это процесс сортировки пациентов в соответствии со срочностью болезни или травмы, чтобы определить, в каком порядке их лечить. пульс, артериальное давление, насыщение кислородом и частота дыхания). Поскольку эти измерения стандартизированы, наш клиент разработал и сконструировал «сортировочную камеру» на базе искусственного интеллекта с датчиками, которые клинически могут измерять параметры жизнеспособности неинвазивно и за одно измерение, помещая пациента перед камерой на несколько секунд. Первоначальная идея этой технологии заключалась в том, чтобы обеспечить ценность более быстрой сортировки для перегруженных работой и находящихся в стрессе медсестер скорой помощи, разместив камеры в залах ожидания скорой помощи в кабинах самообслуживания. Затем служба искусственного интеллекта будет предварительно сортировать пациентов на основе их оценок и выгружать операции измерения жизнеспособности из рабочего процесса медсестер. Этот ход мыслей напоминает «загадочную» стрелу, ведущую от технологии к созданию ценности. Хотя далеко не ясно, как именно это произойдет, и является ли это единственным или высшим значением, которое мы могли бы получить из контекста.

Как мы увидим, наш подход к проектированию опроверг эту гипотезу несколькими способами.

Наш подход: дизайн-спринт

Мы решили использовать метод дизайн-спринт и посвятить неделю целенаправленной работе над первой итерацией этого дизайнерского задания. Команда дизайнеров и профессиональных медсестер объединилась с разработчиками камеры для сортировки и организовала проектную комнату для спринта с большими досками и большими экранами для дистанционных интервью. Мы очистили наши календари и приобрели закуски, кофе, альбомы для рисования, стикеры и материалы для прототипирования на целую неделю.

Нашей первой задачей было посещение городской поликлиники. Вместе с персоналом неотложной помощи мы наметили полный рабочий процесс, начиная с момента поступления пациента в отделение неотложной помощи и сообщения о симптомах, оценки параметров его жизненных сил и прохождения полной сортировки. У нас также была возможность взять интервью у нескольких медсестер скорой помощи об их работе.

Вернувшись в студию днем, мы обсудили наши выводы с профессиональными консультантами в области здравоохранения и командой разработчиков нашего клиента. Было ясно, что присутствие персонала в комнате ожидания имеет решающее значение и что на протяжении всего процесса в динамике между лицами, осуществляющими уход, и пациентами происходит много интересного. Профессиональные медсестры и врачи полагаются на так называемый клинический взгляд — термин, связанный с неявным знанием. Несмотря на то, что концепция клинического взгляда резко изменилась» по мере того, как технологии и датчики были внедрены в контексте здравоохранения, сотрудники скорой помощи сообщают о его ценности на практике. Оно описывается как важное, тонкое знание, отточенное годами опыта, но трудное для формулирования и определения. Когда наш первый день спринта закончился, мы поняли, что сервис камеры с искусственным интеллектом для клиники неотложной помощи представляет собой серьезную проблему для внедрения не с технической точки зрения, а с точки зрения взаимодействия медсестры и пациента и качества обслуживания. Сокращение времени сортировки по-прежнему важно, но необходимо учитывать и другие качества, если услуга должна представлять реальную ценность.

Наступил вторник, и мы пытались глубже понять проблему и отобразить проблемы на временной шкале путешествия с точки зрения пациента, а также с точки зрения медсестры скорой помощи, снятой накануне. Чтобы протестировать что-то полезное в пятницу, нам нужно было заставить прототип активно «искать» проблемы, связанные с качеством ухода и неявными навыками ухода.

Мы решили построить поддельную клинику скорой помощи с залом ожидания, прототипами камер, информационными дисплеями и кабинетом для осмотра. Мы наняли медсестер из отделения неотложной помощи больницы и статистов, которые разыгрывали пациентов для пятничного теста. Прототипы камер представляли собой буквально черные (обувные!) коробки с изображением объектива камеры, наклеенным сбоку. Цифровой пользовательский интерфейс для медсестер представлял собой несколько связанных экранов, которые отображали параметры жизненных сил сортировки на подключенном iPad, а также макет обычной системы журналов пациентов, уже используемой в клинике.

Мы решили создать «богатую» тестовую среду, в которой могли бы разворачиваться различные сценарии для изучения вариантов взаимодействия пациента и медсестры. В зале ожидания мы разместили две камеры в качестве киосков самообслуживания с инструкцией для прибывающих пациентов, как ими пользоваться. Мы также установили камеру в комнате для осмотра, чтобы лечащая медсестра могла использовать ее (снова) для выполнения дополнительных измерений.

Пятница была днем ​​тестирования и подведения итогов. Уроки и обсуждения во второй половине дня были богатыми и имели многочисленные последствия для разработки службы камер на основе ИИ. Например:

  • Самообслуживание экономит время, но упускает важные аспекты клинической оценки. Это суждение требует человеческого контакта между медсестрой и пациентом.
  • Пациенты (даже несмотря на то, что они были «фальшивыми» пациентами в этом спринте) сообщили, что камера самообслуживания вселила в них чувство уверенности. Однако это может также добавить новые опасения к и без того стрессовой ситуации, если параметры будут «непонятными» или «слишком экстремальными».
  • Пациентов беспокоило, что они не встретят профессионала достаточно быстро, если камера зафиксирует «слишком нормальные» значения. «Что, если камера скажет, что я не болен? Тогда я не буду лечиться?» был один комментарий пациента.
  • Медсестра, выводящая очередного пациента из приемной, постоянно обновляет свое понимание ситуации. Быстрое сканирование комнаты ожидания может сообщить медсестре важную информацию о состоянии пациентов.
  • Ручное измерение, например, артериального давления, может оказать успокаивающее действие на пациента, вместо того, чтобы просто поставить пациента перед камерой самообслуживания.
  • Медсестры развивают свой набор навыков и «клинический взгляд», поэтапно считывая показатели жизненных сил по мере того, как параметры измеряются камерой в режиме реального времени. Это позволяет медсестрам расширить свой набор навыков и «клинический взгляд». Кажется, этого не происходит, когда все параметры выводятся на экран одновременно. Здесь есть важная возможность дизайна для сервиса. Оптимизация только для увеличения скорости может снизить качество ухода и потенциал развития навыков медсестер.
  • С другой стороны: получение всех параметров из оценки ИИ в комнате ожидания, а затем дополнение одного или двух из пяти измерений «вручную» повышает «общую осведомленность» медсестер о статусе пациента и увеличивает их способность правильно сортировать пациента.

Эти результаты указывают на обновленную гипотезу: служба камер на основе ИИ может ускорить сортировку и повысить качество медицинской помощи за счет контакта между людьми, а также повысить квалификацию медсестер. Служба должна быть разработана таким образом, чтобы максимизировать эти преимущества и позволить как медсестрам, так и ИИ учиться на собственном опыте. Это означает, что нам нужно подумать о том, как эта петля обратной связи будет происходить на практике, и связать ее с обоими ИИ. предсказание и человеческое суждение.

Крайне важно убедиться, что влияние предпринятых действий улавливается и передается обратно в виде обратной связи как пользователю-человеку, так и модели ИИ. Тщательно продумав эту петлю обратной связи, можно улучшить как предсказание с помощью ИИ, так и человеческое суждение, и обеспечить большее влияние и ценность.

Резюме — что мы узнали

Первоначальная сервисная гипотеза (или «концептуальная идея» для сортировочной камеры с искусственным интеллектом) выглядела следующим образом:

Другими словами: камера сортировки будет принимать параметры жизнеспособности и тем самым увеличивать скорость сортировки, позволяя отделению неотложной помощи быстрее проводить через систему больше пациентов.

После одной недели дизайнерского спринта наше обновленное представление выглядело так (новые качества выделены зеленым цветом):

Внимательно прислушиваясь к опыту медсестер, синтезированному с точками зрения инженеров и дизайнеров, стало очевидно, что можно достичь еще нескольких ценных эффектов. Измененный рабочий процесс камеры не только сэкономит время, но также поможет медсестрам обеспечить более качественную и точную сортировку в сочетании с ручными измерениями и измерениями с помощью искусственного интеллекта. Кроме того, медсестры не были отключены от комнаты ожидания скорой помощи и пациентов, что позволяет им развить свое профессиональное суждение и «клинический взгляд» и не лишать их столь необходимого успокаивающего контакта с пациентом. Собирая данные об обратной связи с пациентами на последующих этапах, модель искусственного интеллекта может быть улучшена. Медсестры и камера с искусственным интеллектом считаются командой, предоставляющей услуги, а не рассматривают искусственный интеллект как изолированную технологию, которая автоматизировала бы медсестер из частей рабочего процесса скорой помощи. Коллективный подход имеет решающее значение для достижения долгосрочных положительных результатов как для пациентов, так и для медсестер.

Часто неявные критерии успеха (т. е. существенные, но не определенные) столь же важны, как и явные критерии успеха. В других случаях модель ИИ считается отключенной от людей-операторов и контекстов. Как показало это тематическое исследование, используя дизайн и исследования для моделирования задач и рабочих процессов, тестируя прототипы в аутентичных условиях и принимая человеческое суждение и дополнения в качестве центральной цели проектирования, мы можем резко увеличить нашу вероятность обнаружения неявных критериев успеха (например, профессиональный клинический взгляд), а также разработать совместный подход к ИИ и совместной работе людей.

Еще кое-что…

Существует еще один важный стратегический аспект, выходящий за рамки дизайна отдельных сервисов, который вырисовывается на фоне этого обсуждения: важность проектирования обучающихся организаций. Нет никаких сомнений в том, что для компании или организации непосредственная ценность заключается в разработке стратегий обучения и развития сотрудников. Это означает вкладывать средства в развитие навыков и креативность, а не фокусироваться на краткосрочной производительности за счет автоматизации существующих рабочих процессов. Последний подход противодействует желанию и способности человека учиться и развиваться, тогда как первый создает стратегическую ценность и активы компании.

Люди преуспевают в условиях, в которых они развиваются и растут, что напрямую приводит к увеличению ценности для компании.

Услуги на основе ИИ можно использовать для обеих целей: автоматизировать людей и заставить их деградировать и стать пассивными, или улучшить их навыки и способности, чтобы обеспечить устойчивую ценность для себя и своей организации. Используя подход к проектированию, ориентированный на человека, у вас больше шансов создать функциональную самообучающуюся организацию.