Я уже говорил об этом раньше и повторю еще раз: Давайте начнем драму в HCI. Что я имею в виду? Я имею в виду признание того, что создаваемые нами причудливые и забавные инструменты должны быть второстепенными; не главная достопримечательность. Я имею в виду признание того, что цифровая грамотность, использование технологий для здоровья или безопасности, проблемы конфиденциальности и цифровые манипуляции могут быть ситуациями жизни или смерти. Иногда это означает настоящую смерть; например, в сценариях война или здравоохранение. В других случаях это означает абсолютное злоупотребление властью; поддержка тюремно-промышленного комплекса или ужасающих манипуляций над детьми. Ситуации жизни или смерти могут относиться к искаженной новостной ленте Facebook, ведущей к этнической чистке или серьезным онлайн-преследованиям и замалчиванию маргинальных пользователей. Для тех из вас, кто не думал об этом или мимоходом думал о том, как HCI может нанести вред, но как он может быть полезным, я призываю к более глубокому размышлению. Для тех из нас, кто хочет добиться большего и чувствовать себя в затруднительном положении, читайте дальше. Несмотря на то, что я начал этот пост с печалью и мрачностью, я обещаю, что сделаю все возможное, чтобы оптимистично воплотить в жизнь то, что мы можем сделать на самом деле. Многие из нас задумывались обо всех этих ужасных побочных эффектах технологий, и мы либо чувствуем бессилие, либо разочарование, либо усталость, либо просто хотим сосредоточиться на чем-то более позитивном и легком. Эти чувства действительны, и все мы иногда устаем. Но я нашел несколько способов смириться со своими разочарованиями, и они вплетаются в мое видение грамотного мира машинного обучения.
Я мечтаю о мире, в котором пациент входит в кабинет врача после получения результатов сканирования изображений с помощью ИИ. Пациент знает, что их исходные изображения были сделаны в другой стране или на устаревшем аппарате. Они спрашивают «были ли данные обучения, используемые в вашем алгоритме, достаточно разнообразными, чтобы их можно было сравнить с моими предыдущими сканированиями с другой машины?»
Я мечтаю о мире, в котором мать может защищать своих детей и свою семью против алгоритма социальных услуг, который определяет низкий балл ее благосостояния. Я мечтаю о мире, где она может спросить : Было ли это решение основано на моем географическом районе? Моя раса? Мои финансы? Использовались только общедоступные данные? Что делать, если у меня есть частная страховка? Будут ли использованы эти данные? Как вы оценили успех своей модели? ». И я даже мечтаю о мире, в котором этот социальный работник сможет ответить, и может быть критическое обсуждение того, что модель упустила, и почему она не работает, и как ее можно улучшить.
Я мечтаю о мире, в котором люди требуют подотчетности от крупных технологических компаний, но я также мечтаю о мире, в котором эти крупные технологические компании попали в руки каждого. Потому что все; От политиков и бизнесменов до учителей начальной школы и водителей Uber, докторов, модельеров, артистов цирка и бухгалтеров и программистов - все они имеют базовые знания об ИИ и могут вести критический разговор с грамотностью и участием. Нашими краеугольными камнями будут чтение, письмо, основы математики, история, искусство, физическая подготовка, здоровье, наука, программирование и «Как понять, машинное обучение, вставка, лучшее имя».
Какова тема этого сна? Это самоадвокация. Я представляю себе мир, в котором каждый может независимо начать поиск нужной нам информации. В конце концов, нам может понадобиться эксперт, но с небольшой грамотностью мы сможем пройти долгий путь. Мы можем научиться задавать правильные вопросы экспертам, вырабатывать мнения, выходящие за рамки эмоциональных суждений, и способствовать инновациям и творчеству в том, что можно и нужно создавать. Я мечтаю о мире, в котором наша информационная грамотность настолько развита, что мы сможем защищать интересы наших детей во всей их уникальности; наши друзья во всей их специфике; и мы сами во всем своем чуде. Я представляю свою работу как массовый подход к грамотности в области машинного обучения, когда власть находится в руках людей.
Какова тема этого сна? Это самоадвокация.
Теперь, даже когда у людей есть власть, им можно помешать внести реальные изменения. Существуют влиятельные компании, институты и общественные практики, которые могут сделать самоадвокацию бесполезной. Но знаете что! Как исследовательское сообщество, каждый может найти свое место в модели Точки вмешательства. Есть люди в Microsoft, Facebook, Google, Amazon и т. Д., Которые могут найти свое собственное радикального разработчика вдохновения и начать внедрять эти идеи в умы влиятельных людей вокруг них. Есть исследователи, которые могут увидеть, насколько эффективны различные тактики повышения грамотности в разных маргинализированных группах. Существует множество исследователей конфиденциальности и этики, которые будут активно стремиться закрыть системы, которых вообще не должно быть и в которых никто не должен быть грамотно. Есть учителя K12, которые будут питать молодые умы, когда они учатся и растут вместе с технологиями. И есть люди, которые придумают небольшие способы держать человека в курсе, когда они узнают, на что способно машинное обучение.
Это не значит, что вы не должны критиковать своих коллег-исследователей. Но это означает найти точку вмешательства, которая лучше всего соответствует вашим талантам, вашим увлечениям, вашим способностям и вашим представлениям о мире, ориентированном на машинное обучение.
Есть миллион способов повысить грамотность в машинном обучении. Нашему сообществу нужно работать над каждой проблемой и подходить к широко распространенной непрозрачности, которой является ИИ, с нескольких различных точек вмешательства. Помните об этом, когда мы спорим между собой по наиболее важным обсуждаемым вопросам. Давайте разделим работу и послушаем друг друга, пока мы все пойдем по пути исследования относительно нового и важного пространства (грамотность в области машинного обучения и объяснимый ИИ). Это не значит, что вы не должны критиковать своих коллег-исследователей. Но это означает найти точку вмешательства, которая лучше всего соответствует вашим талантам, вашим увлечениям, вашим способностям и вашим представлениям о мире, ориентированном на машинное обучение.
Отказ от ответственности: я знаю, что не все HCI связаны с машинным обучением. И я понимаю то, чего не понимаю, а именно взгляд каждого из подразделов на то, как оно помогает миру. Инструменты доступности, медицинское посредничество, образование и т. Д. Эти области могут вообще не работать с социальным машинным обучением, и они делают отличные вещи в мире HCI. Также ведется большая работа по социальной справедливости для семей иммигрантов и технологий, секс-работников и других. Я определенно не говорю, что сердце HCI находится не в нужном месте. Все, что мне нужно, - это немного больше внимания и больше внимания тому, как технологии влияют на всех, зачастую классически и расистски. Мы не можем иметь в доме персональных роботов или виртуальную реальность (пока), а миллионы черных и коричневых рабочих, создающих новейшие технологии, похоже, не так, как в разговорах о HCI.
