Состояние UX в AI с Джошем Кларком (стенограмма)

Подпишитесь на подкаст User Defenders, чтобы автоматически получать новые серии!

Джош Кларк разъясняет нам все, что нам нужно знать о текущем состоянии UX в AI. Он ведет нас в тревожную прогулку по зловещей долине. Он призывает нас позволять машинам делать то, в чем они действительно хороши, а людям делать то, в чем они действительно хороши. Он рассказывает, как начать пачкать руки с помощью ИИ / машинного обучения. Он также формулирует, как наше программное обеспечение / машины встроены в ценности, и вдохновляет нас (ради будущего) осознанно относиться к ценностям, которые мы в них вкладываем.

Показать заметки, включая упомянутые ссылки, для моего вдохновляющего интервью с лидером дизайна UX / AI, Джошем Кларком, можно найти здесь: userdefenders.com/uxai.

Джейсон Огл: Добро пожаловать в User Defenders, Джош, я очень рад видеть вас сегодня на шоу.

Джош Кларк: Боже мой! Еще раз спасибо. Я счастлив быть здесь.

Джейсон Огл: Чтобы вы вернулись, я должен сказать "да". Джош снимался в 9 серии «Защитники», и это был потрясающий эпизод. Это вечнозеленый контент. Это действительно хорошо. Так что я рекомендую вам тоже это проверить. [Перекрестные помехи] Это, и я думаю, [перекрестные помехи] бросают вызов Голливуду. Я думаю, что это могло бы быть даже лучше, чем первое. Но посмотрим.

Джош Кларк: Давайте не будем переусердствовать. Это не конец.

Джейсон Огл: Итак, это будет все о состоянии UX и AI, и я не могу дождаться, чтобы погрузиться в это так много, так что давайте просто начнем. Джош, ты знаком с тестом Тьюринга?

Джош Кларк: Ну конечно! Ага! Тест Тьюринга, вроде того, что было определено еще в середине прошлого века, вы знаете, может ли машина обмануть человека, заставив его думать, что это человек по другую сторону экрана.

Джейсон Огл: Да, это абсолютно верно. Он был разработан Аланом Тьюрингом в 1950 году. И, как вы прекрасно сказали, это был тест, чтобы увидеть, могут ли люди распознать, являются ли они машиной или нет. Я узнал об этом из фильма Ex Machina, который, кстати, меня напугал. Мы можем поговорить об этом подробнее, я думаю, по ходу дела. Но, Джош, мой вопрос для вас: как мне узнать, что это на самом деле вы, а не клон с искусственным интеллектом, которого вы придумали для этого интервью?

Джош Кларк: Ну, потому что, если бы вы спросили, скажите Алекса этот вопрос, я бы ответил, сказав, играю классический рок, потому что я бы совершенно неправильно понял ваши слова и намерения.

Джейсон Огл: Спасибо. Итак, начнем…

Джош Кларк: Возможно, они еще не совсем достигли цели. Я думаю, что есть идея о том, что машины находятся на пороге того, чтобы стать идеальной заменой для людей или этих интерфейсов, от которых мы совершенно не можем отличить, и все же я думаю, что наш повседневный опыт показывает нам совершенно иное, что что-то вроде фронта Siri и Alexa, но, как правило, очень плохо справляется с очень узкими задачами.

Джейсон Огл: Да, это правда. И мы определенно собираемся подробнее остановиться на том, почему это так, и, возможно, как это можно исправить, если это возможно, так что меня это тоже интересует, но давайте начнем с основ. Вы знаете, Защитники, которые слушают многих из них, новички в этой области, они пытаются ориентироваться, и это область, которую я вам раскрываю, Джош, до нашего времени я немного нервничаю больше, чем обычно об интервью в нем, потому что это так для иностранной области, и это я имею в виду, хотя это, безусловно, становится нормой, как вы тоже упомянули, так много неоткрытого и так много неиспользованного потенциала, а также некоторые, о которых мы поговорим. также, как некоторые вещи, которых можно немного бояться в этом, но я хочу начать с этого, вы знаете, давайте просто начнем с основ. Что такое ИИ? Что такое машинное обучение?

Джош Кларк: Отличный вопрос. Большой, верно. Итак, искусственный интеллект - это общий обобщающий термин для, вы знаете, машин, демонстрирующих какой-то вид сообразительности или проницательности, и это действительно широкий термин, и, честно говоря, он был настолько пропитан ожиданиями научной фантастики и своего рода ожиданиями поп-культуры, что это уже не обязательно особенно полезный термин, но это то, что есть, это широкий термин. Я думаю, что полезно разбить его на категории общего ИИ и недельного или узкого ИИ. Мне больше нравится узкий ИИ, чем слабый, потому что даже узкий ИИ может быть довольно мощным. Но вообще ИИ - это, я думаю, научно-фантастическое понятие искусственного интеллекта. Это машина, которая может рассуждать, которая действительно может мыслить и показывает настоящую логику по широкому кругу вопросов. Это машина, с которой можно было бы поговорить, это как с 2001 года, верно.

Узкий ИИ - это то, что действительно эффективно только в действительно очень конкретной области информации или знаний. И именно здесь мы почти находимся, поскольку весь наш искусственный интеллект сейчас представляет собой очень узкие приложения, сосредоточенные на машинном обучении. А глубокое обучение - это особая технология и разновидность машинного обучения, в которой произошел ряд прорывов. Это своего рода алгоритмы, которые затем создают свои собственные модели данных на основе моделей данных и моделей данных и просто очень глубоко проникают в понимание очень конкретной проблемы. И это действительно своего рода подход к проблеме методом грубой силы. Он находит шаблоны, а затем создает стратегии, основанные на этих шаблонах. Так что это не совсем логика. Речь идет о распознавании образов на уровне, недоступном для людей.

ИИ как область, которой уже несколько десятилетий, раньше его больше интересовало то, что называется инженерией знаний, идея о том, что вы можете фактически смоделировать человеческое познание, чтобы превратить это в программное обеспечение, чтобы компьютеры могли научиться рассуждать, как человеческий эксперт, чтобы думать. и в последние десятилетия подобного рода прорывы в ход пошатнулись, и мы просто не могли продвинуться очень далеко вперед, пока мы не получили вычислительную мощность, чтобы просто анализировать огромные объемы данных, извлекать из них закономерности и принимать решения на основе те.

Джейсон Огл: Ого! - Что ж, - сказал мой друг, - это действительно хорошая информация. Вы также упомянули алгоритмы в своем ответе. И вы просто фантастичны в разговорах о продуктах. Вы сказали, что алгоритмы - это кислород, питающий новое поколение новых технологий. Теперь о том, как работают алгоритмы, вы можете рассказать нам даже о высоком уровне.

Джош Кларк: Да, конечно. Ну, во-первых, просто чтобы сказать, что я имею в виду под тем предложением, которое вы процитировали, когда вы смотрите на все новые взаимодействия, которые происходят, вещи, основанные на зрении камеры или компьютере зрение, обработка естественного языка, распознавание речи - все это основано на узком ИИ, о котором я говорю. Это распознавание образов, позволяющее извлекать закономерности и понимать, что там происходит. Благодаря машинному обучению машины настолько эффективно понимают все беспорядочные вещи, которые мы создаем, что они не могли понять до нашего почерка, нашей речи, наших фотографий и наших каракулей.

Вот что я имею в виду: это узкое машинное обучение, оно начинает влиять на весь новый набор многообещающих взаимодействий и моделей. И это включает, вы знаете, такие вещи, как виртуальная реальность и дополненная реальность, все эти вещи, которые должны иметь возможность понимать мир вокруг нас и навязывать им информацию или извлекать информацию из него.

Но что такое алгоритм, вы знаете, что алгоритмы многовековой давности - это вещи, которые, как вы знаете, логики и философы Ближнего Востока много веков назад создали алгоритм фраз, и, конечно, греки превратили его в него, но на основе, я считаю, во всяком случае, имя логика, имя которого мне не известно. Я справлюсь с сорняками здесь. [Перекрестные помехи] Да, это был Ал Гор, ты должен

Джейсон Огл: Вы помните «Аль-Гор-Ритм»?

Джош Кларк: Он существует уже много столетий.

Джейсон Огл: Он создал Интернет, верно.

Джош Кларк: Да, «Аль-Гор-Ритм». Звучит как что-то вроде ужасного тщеславного альбома, который он, возможно, создал.

Джейсон Огл: Он действительно придумал это еще на заре Интернета. Он пытался, и я забыл, что это было, но он пытался что-то выдвинуть, и я был таким же маленьким самовлюбленным человеком, который назвал это в честь вас. Но я имею в виду, что он ничего не может с собой поделать, это его имя.

Джош Кларк: Вот и все. Верно. Это «Аль-Гор-Ритм». Думаю, наша работа здесь сделана.

Джейсон Огл: Вот и все. Хорошо! Спасибо, что слушали всех. Увидимся на следующем.

Джош Кларк: Но вы знаете, я имею в виду, что алгоритм действительно справедлив, он не так уж отличается от маленькой компьютерной программы. Это набор логических правил, по которым можно прийти к заключению. С практической точки зрения, это инструкции для пошагового выполнения ряда вычислений или вычислений математических функций. Итак, в машинном обучении эти функции обычно сопоставляются, опять же, с математическими моделями, которые настроены для отражения закономерностей, обнаруженных в мире на основе гор данных, и поэтому, знаете, это что-то вроде того, что я просто собираюсь покажите машине миллионы изображений собаки или с собаками, чтобы затем она могла распознать собак на картинке и распознать этот узор.

Но поскольку вещи такие узкие, опять же, эти алгоритмы, чтобы он мог находить шаблоны, шаблоны должны быть действительно в очень конкретной области. Итак, если вы научите машину видеть собак, она будет иметь тенденцию видеть собак и все такое. Итак, вы знаете, вы как бы усиливаете эти шаблоны, а затем он будет находить эти шаблоны повсюду, что является сильной стороной этого. очень специфическая узкая область. Но это может быть немного слабым местом, когда вы пытаетесь расширить область, и, вы знаете, он может видеть его предвзятость и всевозможные разные места, поэтому мы должны быть осторожны, как мы загружаем данные этим машинам, и помня, что их ответы основаны на данных, на которых они обучаются.

Джейсон Огл: Я просто думал о чем-то, когда вы отвечали на это, и знаете, вы говорите о математике и чувак, математика - это сложно, хорошо. Мол, я дизайнер, и я дизайнер, знающий HTML, CSS, и все. Я не изучал JavaScript. Я пробовал несколько раз, вероятно, недостаточно, но с математикой сложно. И мне нравится партнерство между дизайнерами и разработчиками, и, конечно же, в результате были созданы некоторые из наших лучших продуктов, и я знаю вас самих, у вас есть супергеройская сила, с которой вы работаете с большой средой, что довольно круто для проектов над проектом. основание. Но я думал о программистах, знаете ли, и я был с программистами около 25 лет, и я многое понимаю в том, как думают программисты, и я знаю, что они преуспевают в логике и уверенности, вы знаете, это либо 1 или 0, верно. Это либо логическое «да», либо «нет», так сказать. Но мне было интересно, знаете ли, наши разработчики сходят с ума, работая над этим материалом, потому что существует такая большая неопределенность, как вы знаете, вы загружаете машину, как вы сказали, вы загружаете в машину кучу изображений, а затем вы ищете изображение собаки, а затем он тянет кексы с черникой, знаете, вместо чихуахуа, знаете, такие вещи, как вы думаете, наши разработчики сходят с ума от этого, когда это так неуверенно.

Джош Кларк: Вы знаете, это интересно. Я думаю, что разработчики и инженеры, которые их проектируют, действительно уважают диапазон серого, который машины видят в мире. И это, знаете ли, естественно, что, откровенно говоря, мы, люди, часто видим в этом мире и делаем все возможное, чтобы это обработать. Когда вы смотрите на результаты многих таких, знаете, этих алгоритмов, когда они вроде как дают свои результаты, вы знаете, они часто выражают свою уверенность в результате, вы знаете, и иногда, как дизайнеры, мы обнаруживаем, что уверенность и наши интерфейсы, вы знаете, Netflix показывает вам, какой процент вероятности, что это шоу будет для вас, верно, это примерно 85%, и вы такие, знаете ли. Мы используем это как зрители, чтобы понять, вы знаете, насколько вероятно, что это соответствует, и мы как бы начинаем привносить в нашу логику такое поглощение этой машинной уверенности, как просто просмотр телевизора.

Итак, инженеры, я думаю, в некотором смысле сотрудничают с машинами, чтобы выяснить, насколько хороша модель в предсказании вещей. Я бы сказал, что на самом деле как дизайнеры, я бы сказал, как дизайнеры, мы на самом деле немного пытаемся выразить это. Я думаю, что отчасти это связано с определенным энтузиазмом по поводу использования этого материала. Как будто машина дала ответ. И, честно говоря, существует культурная предвзятость к тому, чтобы спешить с правильным ответом, и, вы знаете, мы много думаем об этом с точки зрения производительности, и иногда, знаете ли, я думаю, что был действительно продуктивный толчок к производительности, например , веб-результаты, позволяющие убедиться, что страница загружается как можно быстрее. И я считаю, что это здорово. Это часть отличного пользовательского опыта.

Я думаю, что еще одна часть пользовательского опыта - это как можно быстрее дать кому-то ответ. И вы видели, например, что Google, в частности, действительно на протяжении многих лет продвигался к этому, но раньше это было несколько поисковых запросов о погоде, а в Нью-Йорке вы получали список веб-страниц, которые могли бы вам сказать какая погода была в Нью-Йорке. А потом он стал фактически вверху результатов поиска, он просто показывал вам погоду в Нью-Йорке. И теперь в Google Chrome, если вы начнете искать, будь то в Нью-Йорке, они действительно покажут вас в поле поиска, прежде чем вы даже выполните поиск прямо там. Они стараются свести к минимуму время, затрачиваемое на ответ. И, конечно, это требует действительно сильной уверенности в ответе, но это ценно только в том случае, если ответ правильный, верно, как будто спешка к неправильному ответу приносит больше вреда, чем просто занимает немного времени? Знаете, лучше сказать "не знаю", чем дать неправильный ответ. И я думаю, что мы видим, что я думаю, что это своего рода подтекст в смысле этого культурного момента последних двух лет, когда мы боролись с алгоритмами, отношениями с новостями и информацией и тем, как ими можно манипулировать. или предоставить информацию, которая усиливает нашу индивидуальную предвзятость, не обязательно создавая много просвещения для людей, правых или левых.

И я думаю, это снова вернется в Google. Отличный пример этого, опять же своего рода спешка, чтобы дать ответ, правильно это или нет, в тех избранных фрагментах, которые появляются в поле над результатами поиска. Ты знаешь о чем я говорю? Если хотите, я ищу, как долго варить яйцо вкрутую, и получаю, как отрывок из двух предложений, так что не только вот страница, которая может дать вам ответ. Это похоже на то, что мы нашли в Интернете два предложения, которые отвечают на ваш вопрос. Мне повезло на стероидах, верно?

И это здорово, за исключением случаев, когда вы находитесь в области споров, вы знаете, поэтому, если вы зададите политический вопрос, он, как правило, даст вам ответ, который может быть правильным, а может и не быть или даже быть несколько спорным, это особенно верно в отношении областей, которые, возможно, были приобретены разжиганием ненависти. Так что долгое время, если вы спрашивали, а иногда он даже предлагал эти ответы правильно, а Google предлагал. Итак, примерно год назад, если вы начали набирать «евреи», Google мог бы предположить, что евреи злые, а затем, если вы выберете это, он просто предоставит вам эти результаты поиска или избранный фрагмент, который точно скажет вам, как так и было.

Я хочу быть предельно ясным, евреи не злые, вы знаете, это похоже на результат всего этого, и еще более разрушительным было то, что эти избранные фрагменты используются для ответов для помощника Google или Google Home . Потому что, как вы знаете, в речевом интерфейсе вы не можете предоставить список результатов поиска, так что это как, о, вот аккуратный ответ на этот вопрос. И снова, примерно год назад, если вы спросите, являются ли женщины злом, Google Home, вы знаете, это как: хорошо, Google, женщины злые. Google Home скажет «да» и даст вам 30-секундное объяснение, почему именно так.

И снова, я просто хочу быть предельно ясным для вас, ребята, Защитники, женщины не злые, это плохой ответ. Но я думаю, это снова возвращает нас к вопросу и тому подобному: как мы думаем о бинарных ответах? И я думаю, что мы должны признать, что в определенных категориях вещей есть определенный спектр правильности. Как долго вы варите яйцо вкрутую? Какая погода? Мы можем быть очень уверены в том, что есть правильный ответ. Есть масса вопросов, на которые не обязательно есть правильный ответ, и на самом деле, спешка с неправильным ответом может вызвать много споров и боли. Алгоритмы скажут: «У меня довольно хорошее представление, прав я или нет». И все же то, как мы показываем эти вещи, предполагает ту уверенность, которая, как я думаю, на самом деле нет у алгоритмов, что я не уверен, что, если вы спросите алгоритм, насколько вы уверены в том, что женщины злые, они не сказали бы: На 100%, знаете, я нашел эту информацию, и она совпадает, и я получил 59% уверенности.

Это то, что нам, как дизайнерам, нужно, чтобы начать создавать своего рода визуальный язык тела, понимаете, потому что это не просто что-то вроде, я не знаю. Я думаю, что, может быть, это правда, или я не знаю ответа, или, черт возьми, это сложная тема. Вы знаете, это похоже на то, что у нас есть способы выразить это на нашем собственном языке тела и словесном языке. Как мы начнем выражать тот серый цвет, о котором будут сообщать алгоритмы? Как мы выражаем это в наших интерфейсах, когда показываем информацию или данные, сгенерированные этой машиной? Парень, извини, это была действительно долгая прогулка.

Джейсон Огл: О, это было здорово. Это было здорово. И вы знаете, я думал об этом забавно, потому что то, как машины реагируют, и, по крайней мере, как они были, я думаю, что это меняется. Я думаю, что вы являетесь важной частью этого разговора, который, знаете ли, меняет способ отображения ответов в интерфейсе пользователя, понимаете, как будто можно сказать, я не знаю, я думаю, что мы просто полагаемся на это много машин, чтобы всегда иметь ответ, и, вы знаете, у нас теперь есть канон мировой информации в нашем кармане, что довольно впечатляет, но я чувствую, что машины делают, с некоторыми из этих ответов они делать все, что мы не должны делать. Когда мы практикуем UX-дизайн, мы пытаемся разрабатывать дизайн для пользователей. Мы не должны делать предположений, верно? Мы не должны, мы не должны этого делать, и можно сказать, что я не знаю, поэтому я думаю, что это область изменений, которые необходимы в том, как эти, вы знаете, вещи отображаются в интерфейсе для пользователей, и это прекрасный переход к моему вопросу слушателя. Первый, это от Джеймса Митчелла, его имя в Твиттере - @Mitchelljames, и он спрашивает, мне любопытно, что вы думаете о проблемах с представлением ошибок пользователям. ИИ сейчас становится более распространенным, чем когда-либо. ИИ теперь приспособлен к тому, чтобы присутствовать в настоящем моменте и автоматически в нашей жизни, но как будут устраняться неудачи, если люди все больше и больше полагаются на него. Мы немного коснулись этого, но у вас есть что добавить к этому?

Джош Кларк: Да, я имею в виду, это такой отличный вопрос. Спасибо, Джеймс. И самый сложный, как вы понимаете, потому что я думаю, что мы здесь как бы пытаемся понять, как вы дойдете до контента, сгенерированного машиной, выводов, генерируемых машиной, и взаимодействий, генерируемых машиной, где машина фактически отвечает за это, что она для нашего ремесла означает, что мы уходим от эффективного проектирования пути с помощью информации, которая находится под нашим контролем, вы знаете, что, по сути, наша работа заключалась в том, чтобы подтолкнуть людей и через довольно ограниченные пути информации, чтобы спроектировать для достижения успеха. И я думаю, что эта область развивается там, где это вроде как, мы точно не знаем, что будут спрашивать у машин, или как машины могут отреагировать, когда мы войдем в нечто вроде этой чистой вещи типа «отлично, отдать». это любая информация, пусть ответит сама. Это означает, что мы действительно проектируем с учетом неопределенности и проектируем с учетом неудач. Итак, вопрос о шансах - как спроектировать на неудачу. Я имею в виду, что машины странные. И поэтому наша работа как дизайнеров, по сути, состоит в том, чтобы попытаться обнять эту штуку, чтобы мы могли, надеюсь, загнать в угол и смягчить странные ответы или, по крайней мере, дать им контекст, чтобы они не нанесли реального вреда.

И я думаю, что часть того, что мы можем делать как дизайнеры, - это действительно хорошее представление о том, в чем хорош конкретный алгоритм, над которым мы работаем, и сужение области применения приложения, чтобы оно соответствовало тому, в чем он хорош, и точно сообщить о его результатах. Итак, опять же, вы знаете, мы возвращаемся к вроде того тривиального примера обучения машины распознаванию собак на фотографиях, вы знаете, это как будто это что-то, что конкретно связано с распознаванием собак, вы знаете, и это как, это не подействует на других животных. Давайте как бы удостовериться, что мы это делаем, потому что в противном случае мы будем замечать собак и всевозможные места, которых на самом деле не существует.

Но вы знаете, я так думаю, возвращаясь снова к этому примеру, как мы можем вроде как дать людям знать, когда они должны или не должны доверять ответу. Это не только то, что я не знаю, это еще и своего рода репортаж. Вы знаете, я думаю, что знаю, но я не уверен. И я думаю, что отчасти это связано с поиском новых способов действительно сигнализировать о том, что человеческому существу пора задействовать свой критический мозг, и, как мне кажется, у нас есть этот прокси, и когда мы думаем о беспилотных автомобилях, это похоже на они - контекст, в котором находятся машины, знаете ли, и действительно в довольно хорошей форме, знаете, как длинные прямые шоссе, знаете, вроде того, где у нас есть довольно надежная информация о том, какими будут машины вокруг нас. вождение, вы знаете, это довольно хорошие ситуации, но, вероятно, бывают моменты, когда дорожная ситуация становится немного сложнее для машины, и это похоже на то, что, знаете, сейчас было бы хорошее время, чтобы привлечь человека к этому.

И я думаю, что для всех видов полей информации это похоже на то, как мы могли бы сигнализировать о том времени, что-то вроде: Эй, мы действительно могли бы здесь использовать небольшое человеческое суждение. Потому что момент, когда алгоритм дает сбой или становится неуверенным, это как раз подходящее время для принятия человеческих суждений. Не все время работают с машинами. Это должно быть партнерство между людьми и машинами. Потому что машины ужасны в некоторых вещах, точно так же, как люди ужасны в некоторых вещах, и как мы вроде как создаем и поощряем это партнерство, вместо того, чтобы просто полностью отдавать свой мозг машинам, потому что мы делаем это все время. Вы читали об этих вещах, прямо о ком-то, кто просто следил за Google Maps, проезжал до своей 30-мильной поездки и каким-то образом, например, проехал всю Европу и, например, 900 миль спустя, это типа, используйте свой мозг, вы знаете, но мы видим это, и я тоже делаю это постоянно, я просто как бы посеял это доверие машине.

Джейсон Огл: Да, это похоже на то, что мы используем наше системное мышление, как Дэниел Канеман упоминает в «Мышлении быстро и медленно», вы знаете, он говорит, что разбивает мозг на две системы. . Первая система - это ленивая, автоматическая, автоматическая реакция. Кто-то спросил вас, как вас зовут, вы даже не задумываетесь об этом, верно, и обычно мы делаем то же самое и разговоры, лучше или хуже, когда кто-то спрашивает, как у вас дела, что мы автоматически говорим - хорошо. У нас действительно все хорошо? Я имею в виду, что в 90%, может быть, в 50% случаев, может быть, у нас дела идут не очень хорошо, понимаете, о чем я? Но это как задействовать системное мышление.

Мы просто доверяем машинам, может быть, слишком сильно, и я думаю, что мы идем здесь по канату, потому что мы хотим иметь доверие, мы хотим иметь, знаете ли, веру в эти вещи, но они часто подводят нас , так что мы были скептиками, и мы, знаете ли, так что предстоит еще много работы, как вы уже упоминали, знаете, и вы упомянули, что беспилотные автомобили - это настоящая история. Я знаю, что их становится намного больше, понимаете, чем больше они становятся более распространенными в обществе, вы знаете, к сожалению, люди, узнавшие вас, убили вас, знаете, что вы знаете, это происходит печально, знаете ли, когда вы что-то проверяете.

Но есть реальная история, когда пожилой парень оказался в ловушке в своем беспилотном автомобиле, потому что машина не знала, что делать на круговом перекрестке, он попал в перекресток, и машина объехала. Я не шучу, это реальная история. Это продолжалось 8 часов в этом круге, и парень наконец вышел, но его пришлось положить в больницу из-за обезвоживания, и, возможно, вы знаете, в результате возникло много психических проблем. Такие вещи происходят, и я думаю о том, что вы говорите о балансе между людьми и машинами. Похоже, есть определенные вещи, которые нам все еще нужно иметь возможность контролировать.

И прекрасный пример того, что я имею в виду, я иногда упоминал, - это подкаст под названием «99% Invisible». Они сняли серию под названием «Дети пурпурного», и есть реальная история, когда, как вы знаете, они начали намного больше автоматизировать и тестировать пилотирование самолетов, особенно для более длительных полетов. Конечно, это имеет смысл, но проблема в том, что не было достаточного обучения, когда что-то пошло не так, и, к сожалению, в этом случае, если что-то пошло не так, и пилоты, которые были вторыми пилотами, так что у настоящего пилота было что-то вроде хорошая вечеринка на выходных или что-то на Карибах, или что-то в этом роде, и он потерял сознание, поэтому второй пилот не знал, что делать, в этом случае, к сожалению, авиакатастрофа и не было возможности обхода, или они не знали, как получить доступ к нему.

Так что есть много того, о чем я думаю, и это хороший переход к нашей следующей области, потому что мне нравится говорить о факторе удара. Я всегда знаю страх, неопределенность, сомнение, потому что я имею в виду, что я думаю, что нам нужно оставаться людьми. независимо от того, что вы знаете, и я думаю, что это призма, я думаю, вы согласитесь с тем, что Джош, как мы, насколько мы позволяем машинам брать верх, нам все равно всегда нужно проявлять гуманность, вежливость и тому подобное.

Итак, давайте прогуляемся по зловещей долине, ладно? В «сверхъестественной долине» для Защитников это в основном означает, что чем более человечными становятся машины, тем более странными и отталкивающими они могут стать. Джош, ты смотришь Кремниевую долину? Ты смотришь это шоу?

Джош Кларк: Я наблюдал немного, но признаюсь, что это слишком близко, и мне просто кажется, что это больно. Так что, признаюсь, я не смотрю их тонны.

Джейсон Огл: Да, ну, и я буду честен с вами, как будто это похоже на поворот в написании, я не знаю. Это уже не так смешно, как раньше. Но в прошлом сезоне было такое ..

Джош Кларк: Я тоже, кстати, такое случается со всеми нами. Я уже не такой смешной, как раньше.

Джейсон Огл: Да, верно. Вы тоже помните эту сцену. Итак, была сцена, которую вы, вероятно, не помните, но это была сцена, в которой был жуткий программист, и он создал этот ИИ, и это была женщина, это действительно было похоже на торс, вы знаете для нее лицо, а потом просто ее плечи и все такое. И он сексуально насиловал этого робота, и это выяснилось в эпизоде, в котором он был обнаружен, и она почти как посылала сигналы, такие как крики о помощи, как будто она почти страдала от какого-то синтетического посттравматического стрессового расстройства. Это было действительно странно. Это было жутко, а потом вроде как вы знаете, что в последнее время я действительно интересовался психологией, и я начал задаваться вопросом, есть ли на самом деле диагнозы людей, которые испытывают странное влечение к машинам, и, конечно же, это называется механофила. И это любовь или сексуальное влечение к компьютерам, машинам, роботам или андроидам, стиральным машинам и другой бытовой технике, даже к газонокосилкам и другому механизированному садовому оборудованию, и теперь я понимаю, почему кому-то пришлось поставить на бензопилу заявление об отказе от ответственности, в котором говорилось: «Не используйте на твоих гениталиях ».

Странно, но я знаю, что это действительно так. Тогда, конечно, я подумал о фильме «Она», знаете, там есть что-то подобное. Итак, все это, чтобы сказать, веду ли я к своему вопросу: вы знаете, я вижу, как мы все больше и больше привязываемся к нашим машинам и забываем, что у них нет и никогда не будет способности к искреннему сочувствию. И я чувствую, что достаточно сложно потерять любимого человека, который является настоящим человеком в этой жизни, знаете ли, и мысли о том, чтобы оплакивать отказ жесткого диска гуманизированной машины, кажутся мне немного тревожными и, честно говоря, психологически опасными. Есть ли у вас какие-либо мнения по этому поводу? Или я единственный чудак, который думает о таких вещах?

Джош Кларк: Ну, во-первых, я имею в виду, я думаю, что вы в целом натолкнулись на такой реальный образ, который мы видим в мифологии повсюду, и есть что-то вроде женоненавистной блондинки, которая это, я не должен говорить, что это действительно женоненавистническая линия, своего рода рассказывание историй о том, как мужчина может заново изобрести женщин и улучшить их, понимаете, и это похоже на такие вещи, как она, это своего рода часть, и конечно, в этой конкретной истории, вы знаете, операционная система вроде как стала на какое-то время его идеальной женщиной, но потом, конечно, в некотором роде превосходит его. Но на самом деле это тоже часть истории, всегда вроде того, что вы знаете, возвращаясь к тому, что я не знаю в 80-х. Странная наука, я не знаю, помните ли вы, что два ботаника, вы знаете, вроде как создают свои идеальные женщина как бы идет наперекосяк, «Ex-Machina» - еще один тому пример. Но вроде бы все начинается с этой идеи, этого желания создать человека и, в частности, попытаться исправить женщину, и на самом деле это никогда не идет правильно, и это как бы коренится в такого рода проблемах, что некоторая идея о том, что с женщинами в целом что-то не так. , да, как вы знаете, я думаю, что частью этого является желание сыграть роль Бога или исправить человечество тем или иным способом или, по крайней мере, воспроизвести его и каким-то улучшенным способом, и я думаю, что это, очевидно, своего рода мифология, и все эти истории рассказывают нам что это ужасная и ошибочная идея.

И я думаю, что мы, вероятно, даже знаем это в глубине души и относимся к некоторым развлечениям, о которых вы говорите. Это похоже на то, действительно ли это то, что мы хотим иметь? Мол, хотим ли мы заменить людей машинами? И я бы сказал, что у изобретателя есть увлечение идеей, можем ли мы это сделать, переходит к тому тесту Тьюринга, с которого вы вроде как начали, в самом начале, можем ли мы это сделать? Можем ли мы сделать убедительную копию человека? И, знаете, я не знаю, станет ли это когда-нибудь технически возможным, но я в этом сомневаюсь.

И я думаю, в общем, в любом случае, вы знаете, давайте вместо того, чтобы пытаться заставить машины действовать как люди и убеждать людей, почему бы не позволить машинам делать то, что они делают лучше всего, и позволить людям делать то, что они делают лучше всего. И я имею в виду, что на данный момент машинное обучение действительно хорошо подходит, опять же, этот узкий ИИ, и, возможно, это то, что могло бы информировать наше общее движение к общему ИИ и подобному более интеллектуальному искусственному интеллекту. состоит в том, чтобы признать, что машины видят мир по-разному и логически иначе, чем мы. И, в частности, для узкого круга задач машинное обучение отлично подходит для выполнения трудоемких или повторяющихся, детально ориентированных, подверженных ошибкам или даже, я бы сказал, безрадостных задач, безрадостных с человеческой точки зрения и действительно извлекающих из них понимание. Похоже, что это отличное место для начала - как мы можем выполнять ту работу, в которой люди не очень хороши и требуют больших усилий, генерировать много воздуха и позволить машинам позаботиться об этом.

Другими словами, они не должны быть заменой человеческим существам, но должны быть своего рода компаньонами, как мы можем работать вместе интересными способами? И я думаю, что много разговоров об искусственном интеллекте и инструментах машинного обучения идет о том, как мы можем заменить людей, и я думаю, что на самом деле гораздо более интересным является то, как мы можем усилить то, что люди делают лучше всего. И я полагаю, что опять же, это восходит к этому понятию платформы, о котором я думаю: мне нравится думать о системах, которые позволяют нам быть лучшими, а не умалять нас. И я думаю, вы знаете, если вы посмотрите на то, о чем сейчас много технологий, с точки зрения своего рода популярных сервисов, исходящих из Кремниевой долины, часто я бы как бы поспорил с этими удобными сервисами, давайте будем более ленивыми. или позвольте нам быть меньше, или позвольте нам просто иметь больше свободного времени, которого я не уменьшаю. Свободное время - это здорово, и во многих отношениях оно помогает нам стать лучше, более отдохнувшими и более творческими, но я думаю, вы знаете, это как будто мы можем создать системы, которые помогут нам быть более достойными мы делаем больше для достижения целей, которые мы хотим иметь, а не просто позволяем нам просто как бы брать на себя что-то за нас.

Джейсон Огл: Мне это очень нравится, Джош. Я думаю, что один из основных принципов всего этого выступления - как это сделать? Как мы, вы знаете, создаем системы, которые, как вы сказали, усиливают то, что люди делают лучше всего, и у меня действительно возникает вопрос по этому поводу. Но я хочу продолжить этот путь немного больше о голосовом интерфейсе, вы знаете, и мы уже упоминали фильм о ней, вы знаете, этот голосовой интерфейс занимает видное место как образ жизни в недалеком будущем. будущее это уже в некотором роде, но вы знаете, очевидно, голосовой пользовательский интерфейс - это вы знаете, он ошибочен. Я имею в виду, вы это знаете, и у нас есть много популярных систем. У нас есть Siri, Alexa, Cortana, Google Assistant, возможно, еще впереди. Знаете, в этом опыте все еще есть много неприятных недостатков, однако, как вы знаете, разные диалекты могут быть проблемой, вы знаете, уровни громкости наших голосов, переключение устройств Bluetooth, например, когда я пытаюсь использовать Siri и мою Чтобы даже записать заметку или что-то в этом роде, мне нужно выключить Bluetooth, потому что мой автомобильный динамик работает недостаточно хорошо. Я имею в виду, что это, вероятно, совсем другая проблема, но есть просто множество различных проблем, связанных с использованием этого, и это частично перекрывается даже, знаете, как мы, вы знаете, мы говорим: эй, Siri, эй X, или как там зовут помощника. Я имею в виду, что если мы все делаем это в метро, ​​здесь много общего. Я просто чувствую, что с этой технологией все еще есть много проблем с UX. Кстати, чувствуете ли вы, и, кстати, когда я попадаю на небеса, мне кажется, что Бог скажет мне, сколько часов моей жизни я потратил, пытаясь заставить Сири делать то, что мне пришлось делать самому. Так есть ли надежда для этих виртуальных помощников, знаете ли, что это такое или что лучше? Твои мысли?

Джош Кларк: Вы знаете, я думаю, вы затрагиваете целую кучу разных вещей, которые очень интересны, и я думаю, что стоит сказать, что, знаете ли, нет ничего более разочаровывающего, чем поговорить с система, вся цель которой состоит в том, чтобы понять вашу речь, и чтобы она не была ниже вас, и это, вы знаете, если она не понимает вас в первый раз, тогда, вероятно, не стоило спрашивать ее в первую очередь, верно? Потому что это похоже на то, что теперь вы повторяете это второй и третий раз, и это просто и непонятно, будет ли результат лучше. Так что это на самом деле отнимает у вас время. Правильно? Так что это действительно разочаровывающий опыт.

У этого есть множество разных частей. И первое - это просто понятие, понимает ли оно меня, и даже там, своего рода своего рода два уровня понимания, первый - это простое распознавание речи. Итак, в нашем доме у нас есть эхо, у нас есть, знаете ли, устройство Alexa, и, ну, вы знаете, моя жена живет в родстве. Недавно она была на шоу.

Джейсон Огл: Да, внимательные технологии

Джош Кларк: Совершенно верно. Итак, как внимательный технолог, могу сказать, что Лизе совсем не нравится Alexa и, в частности, эхо-устройство. Итак, если вы понимаете нашу 18-летнюю дочь Веронику и меня, я бы сказал, что в 90% случаев, что неплохо, не так ли? Возможно, это не столько время, сколько другой человек, и он понимает, как выясняется на самом деле, что довольно хорошо, но он понимает жизни, которых я никогда не понимал. Итак, вы знаете, я подумал, я бы установил несколько вещей, которые мы могли бы включить с его помощью, и она войдет, и она скажет, знаете, Алекса, включи лампы, и Алекса скажет, играет христианскую детскую музыку, вы знаете, это просто в ней, и я постараюсь помочь и подхожу, Алекса, включи лампы, и тогда она это сделает, просто уходи. Ваша девушка делает это за вас и любит, знаете, в шутку, но это тоже немного раздражает. И теперь мне и Веронике стало неловко разговаривать с Алекой при Лизе. Как будто это нежелательный человек в нашем доме [перекрестные помехи]

Да, это верно. Так что, если есть что-то личное, это закрадывается в том, что вы знаете, что мы знаем лучше, но мне показалось, что Алекса не любила Лизу, а Лизе определенно не нравилась Алекса. И это вроде как, но это всего лишь машина. Это просто алгоритм, который запускает это, но он имеет это просто благодаря природе представления, поскольку голос имеет этот мощный, вы знаете, персонализирующий аспект, который имеет этот эмоциональный аспект, который действительно отвечает на ваш предыдущий вопрос о типе наших эмоциональных отношений к этим машинам. Но даже помимо понимания голоса, есть понимание намерения, понимание того, что означает вопрос, так часто, даже если они понимают голос совершенно правильно. Понимание намерения не всегда работает, верно. И я думаю, что вы тоже к этому имеете отношение. Это похоже на то, что я не знаю ответа на этот вопрос. Я понятия не имею, что делать с этими словами, это неприятная вещь, которая происходит постоянно.

Часть вещей также особенно похожа на Alexa, вы должны правильно знать заклинание. Как будто вы должны точно знать, как сформулировать вещь, или помнить, что она знает, потому что это не то. Я думаю, что одна из проблем с этими голосовыми помощниками, поскольку они вроде как прикрываются, поскольку общий ИИ спрашивает меня о чем угодно, я могу помочь вам с чем угодно, но оказывается, что они, конечно, не могут. У них, знаете ли, все еще относительно неплохо, и каждый день они расширяются, это все еще по большому счету, относительно узкий набор способностей. И все же потому, что они входят в тысячи вещей, которые мы можем им задать, а не в миллионах, миллионах или чем-то еще, что мы могли бы спросить у людей, но они просто в этой все еще впечатляющей, но узкой группе из нескольких тысяч вещей. Это все еще намного больше, чем я могу вспомнить, о чем мне разрешено спрашивать у Алекса, а также конкретный способ, которым я должен спросить Алексу или должен спросить Сири, если вы знаете, это как если бы я хотел добавить напоминание к определенному Чтобы сделать список в моем приложении на моем телефоне, я должен спросить Siri и действительно конкретный способ, который я никогда не могу вспомнить.

И вот Бенедикт Эванс, говоря о сверхъестественной долине, имеет сверхъестественную долину речевой помощи, которая заключается в том, что по мере того, как они становятся все более и более способными, их становится все труднее использовать, потому что теперь я должен вспомнить, как их использовать. И поэтому, когда у них есть три или четыре навыка, я могу вспомнить, что я могу это делать, но поскольку они вроде бы представлены как все более и более человечные, но не тихие, то в основном между тем, когда у них есть пять навыков, и когда у них есть все навыки, бесконечные навыки, есть целый разрыв между тем, где это как человек, я не знаю, и поэтому все в основном просят Алексу установить таймер и воспроизвести музыку, и это все, потому что я не могу вспомнить команды.

Джейсон Огл: Да, это правда. Так что, конечно, здесь еще есть возможности для инноваций, например, я попрошу ее добавить что-нибудь, чтобы сократить мои расходы. Но я должен, я не могу сказать, что не могу просто сказать Costco, как мы, потому что в моей адресной книге есть кто-то по фамилии Cosco. Так что мне нравится [перекрестные помехи], вы знаете, Siri научила меня говорить, чтобы действительно произносить это T в Costco. Это единственный способ, который вы знаете, и примерно в 90% случаев он оказывается правильным, когда я это делаю. Но, как вы знаете, есть много мелочей, и это мелкие мелочи, но все же кое-что, что должны решить вовлеченные инженеры.

Джош Кларк: Ну, и это непросто, чем больше мы разговариваем с роботами, тем больше говорим, как роботы, и знаете, это не тот результат, которого мы хотим. Я имею в виду, вы знаете, я думаю, что всегда бывают такие переходные периоды, но вы знаете, очевидно, что нам нужны технологии, которые изменяют нашу жизнь, а не наоборот. И я думаю, что очень часто, особенно когда это вроде как, у нас есть такие благие намерения, типа, отлично, у нас есть машины, которые могут понимать нашу речь. И все же мы должны разговаривать с ними, используя эту странную, высокопарную речь или очень четко структурированные команды.

Сейчас рано, вы оглядываетесь на то, где мы были десять лет назад, и кажется, что все это потрясающе, вы знаете, все это похоже на мир научной фантастики. Так что отчасти проблема заключается в том, что технический прогресс завышает ожидания быстрее, чем оправдывает их. И так часто, как технологи и потребители, мы видим здесь проблеск возможностей. Мы можем представить, как Siri или Alexa могли бы быть суперполезными, если бы они просто понимали нас и предвосхищали то, что мы хотели, лучше, но их еще нет, и, знаете ли, они делают скачки, распознавание речи и своего рода естественное языковая обработка для сопоставления этой речи с реальной интенсивностью. Но это происходит, может быть, медленнее, чем нам хотелось бы, а затем, вы знаете, постепенно это будет происходить с некоторыми задачами, которые мы хотим, и они просто войдут в нашу жизнь.

Я действительно думаю, что речь - это очень удобный интерфейс для множества разных контактов, и я думаю, что часто люди представляют себе что-то вроде, ну, я не могу все делать с речью, и это нормально, если вы этого не сделаете. , вы знаете, я думаю, что идея о том, что наше будущее будет содержать множество различных взаимодействий и интерфейсов, точно так же, как они всегда были до того, как машины даже вошли в это так, как мы будем писать, жестикулировать, говорить или, вы знаете, используйте изображения для множества различных контекстов между людьми, я думаю, что это будет развиваться с машинами до того, что вы знаете, будет адаптироваться к правильному каналу и правильному режиму разговора по мере того, как машины станут лучше делать это.

Джейсон Огл: Да, и вы тоже знаете, о чем я думал. Я как бы упустил из виду то, что я говорил о разных вещах, которые происходили, вы знаете, с диалектами и объемами, и я как бы перестал слышать людей с ослабленным слухом, глухих, они действительно не могут использовать Alexa, верно? Они не могут. Я имею в виду, что многие из них не могут четко говорить из-за нарушения слуха, и это является проблемой. Но здесь я хочу пролить немного солнечного света на это, только на эту часть, потому что буквально вчера я видел статью или твит от Fast Company design о том, что какой-то разработчик приложений создал приложение, которое позволяет Alexa на самом деле общаться с глухими людьми. Это действительно круто, это впечатляет, я обязательно свяжусь с примечаниями к шоу Defenders, но он использует камеру и на самом деле понимает язык жестов, а то, как он общается с человеком с нарушением слуха, - через некоторые действительно большие субтитры. . Мне нравятся такие вещи, как это, как будто я люблю инновации вокруг этого, вы знаете, где мы просто пытаемся, вы знаете, сделать опыт, который работает для всех, насколько это возможно, так что это было немного приятного солнечного света. Но я хочу сказать своим друзьям с нарушениями слуха, пожалуйста, не используйте это во время вождения.

Джош Кларк: Готово. Но вы знаете, и вы совершенно правы в этом, но также какое благо для слепых для такого рода речи и аудиоинтерфейса, что вместо того, чтобы взламывать эти визуальные интерфейсы, когда программы чтения с экрана дают смешанные результаты на основе Вы знаете, как создавалось программное обеспечение или веб-страницы, есть что-то, что действительно предназначено для этого, и я думаю, что по мере того, как у нас появляется все больше и больше возможностей и способов получить информацию. И, конечно же, эти голосовые помощники также работают с текстом, что и вы, у вас могут быть такого рода текстовые интерфейсы, в которых обработка естественного языка работает только с письмом, а не с речью, но поскольку у нас есть все эти различные варианты, которые мы можем, люди смогут адаптироваться к своим конкретным потребностям или контактам, независимо от того, связаны ли они с их способностями или их физическим контекстом и тем, что они делают в данный момент, если они за рулем, когда мы за рулем. По сути, мы все слепы, потому что наши глаза заняты, вы знаете, и наши руки заняты, так что это хорошее место для речевого интерфейса для всех.

Джейсон Огл: Полностью согласен. Я был благодарен за возможность сделать это. И, знаете, даже имея Apple Watch, как будто я стараюсь не забыть надеть их, понимаете, проснулся, прежде чем я действительно начну водить, и таким образом мне даже не нужно отрывать глаза от дороги и действительно не нужно так сильно двигать рукой. Так что такие вещи были действительно изящными. Я думаю, что именно здесь мы как бы хотим остаться, поскольку технология - слуга, а не хозяин. И я чувствую, что вы знаете, когда компьютеры впервые появились на сцене раньше, вы знаете, в 70-х и 80-х годах и начали появляться эндемические программы, это было обещание людям, мы хотим быть вашей помощью, мы хотим служить ты прав? И теперь я чувствую, что, знаете ли, 30 лет спустя, я чувствую, что все изменилось, как будто мы как бы больше обслуживаем машины. Такое ощущение, что вы знаете, особенно много захватывающих приложений и тому подобное, и вы знаете свою любимую жену, Лиза Киндред - эксперт в этом, а Защитники слушают и слушают внимательный технический эпизод userDefenders.com/mindfultech, где мы немного поговорим немного подробнее об этом, но я чувствую, что мы как бы пришли в это место, где мы стали больше слугами технологии.

И это подводит меня к еще одному вопросу в разделе «Фадд». Однажды есть цитата Натана из фильма Ex Machina, его играет Оскар Айзек, и он в некотором роде гений, создавший эти ИИ, и он сказал что-то, что действительно привлекло мое внимание, когда я смотрел, и это на самом деле написать это вниз. Он сказал: «Однажды ИИ будет оглядываться на нас так же, как мы смотрим на ископаемые скелеты». Это меня немного напугало, а потом я подумал о том, что вы знаете, как Голливуд, вы знаете, я знаю, что это просто фильмы или рассказы, но я имею в виду, есть много вещей, которые Голливуд вроде бы предсказывает. Например, я имею в виду, что даже в отчете о меньшинствах люди все еще пытаются создать, что, знаете, по прошествии всех этих лет прошло как минимум два десятилетия, понимаете. Так что я чувствую, что их много, поэтому иногда можно сказать что-то вроде того, что Голливуд неплохо улавливает воображение, а человечество таково с моралью и тому подобным. Итак, Westworld, I Robot, Terminator, Black Mirror, Ex Machina, список можно продолжать и продолжать. Вы знаете, Голливуд, нет недостатка в постановках, которые изображают машины, которые мы построили, однажды поднимутся, захватят и, возможно, уничтожат нас. И в вашем интервью Adobe XD, которое Adobe на самом деле спонсирует этот выпуск. Спасибо, Adobe. Вы обращаетесь к этим распространенным страхам, которые многие из нас испытывают по поводу ИИ. Вы сказали, что в основном все это, знаете ли, сказали, что цитата и цитата еще далеко, и цитирую. Вы верите, что это в конечном итоге и неизбежно станет для нас угрозой, как будто машины, которые мы создали, в конечном итоге будут захвачены, возможно, уничтожат нас.

Джош Кларк: Вы знаете, я думаю, что это возможно. Я имею в виду, и я предполагаю, что хочу сказать, что когда я говорю, что это очень далеко, я действительно говорю об общем ИИ как об идее вроде машины сознательного восприятия, типа сингулярности, которая что вы слышите о нем вроде машин, превращающихся в Терминатора, и, знаете, все хорошее, вся хорошая научная фантастика, мельчайшие подробности сбываются. Я думаю, что научная фантастика сильна. Я думаю, что мы часто создаем модели и ожидания в отношении того, что мы должны создавать или чего не должны создавать. Итак, вы знаете, я имею в виду, я думаю, что вы знаете, коммуникатор из Star Trek, который, вы знаете, по сути, раскладушка, вы знаете, он вроде как сделал, вы знаете, что коммуникатор капитана Кирка в основном сделал это неизбежным что у нас будет телефон-раскладушка, вы знаете, поэтому я думаю, что истории, которые мы рассказываем о будущем, имеют определенное качество, определяющее, каким будет будущее, что также делает эти истории важными.

Я думаю, что мы находимся в фазе антиутопического повествования. В некотором смысле противодействовать чрезмерному оптимизму, исходящему из Кремниевой долины, и подобного рода умышленному оптимизму в отношении силы технологий, и, тем не менее, мы также чувствуем, что его влияние идет немного в сторону. И я думаю, что в последний год или около того это действительно стало очевидным, учитывая некоторые из недостатков Facebook, а также ошибки и своеобразное использование данных. Итак, вы знаете, я думаю, что часть этого исправления необходима и полезна. И я думаю, что это снова, вы знаете, у нас есть всего несколько веков мифа о рисках попыток создать нашего собственного человеческого существа, вы знаете, это как Мэри Шелли с Франкенштейном, знаете, все это. Это похоже на то, что не пытайся изображать Бога. Правильно? Это вроде как история. Так что я думаю, что это как постоянная тема о человечестве в целом, вроде как, вы знаете, давайте поймем наше место и естественный порядок и не будем пытаться переступить через него, так что любая часть этих историй такова, и я думаю, что мы должны узнайте их как это.

И, знаете, я считаю важным напоминать себе, как создателям некоторого полезного смирения, здесь. Я скажу, вы знаете, я думаю, что искусственный интеллект в широком смысле и даже узкий интеллект и узкий ИИ, с которыми мы сталкиваемся прямо сейчас, обладают невероятной силой, чтобы помочь нам, а также причинить нам вред. И я думаю, что даже вещи, которые не обязательно ясны, и я думаю, что иногда это будет нас удивлять, когда помогает нам или причиняет нам боль. Есть историк технологий по имени Мелвин Кранц Берг, у которого есть шесть законов технологии. В Гринсбурге первый закон гласит, что технология не является ни хорошей, ни плохой, ни нейтральной. И это означает, что хорошее или плохое, что мы собираемся делать с технологиями, снова зависит от нашего намерения, того, как мы их используем, как мы их применяем. Но то, что он не является нейтральным, означает, что мы не сможем понять его эффекты, пока не выложим его там. Я имею в виду, я думаю, что это немного из опыта Кремниевой долины. Это похоже на то, что я буду продвигать вперед и считаю, что это хорошее намерение действительно сделать мир лучше, что, на мой взгляд, является своего рода рефреном тамошних технологов. Я думаю принять это за чистую монету. Я думаю, что многое из того, что мы создали, вы знаете, не получилось так хорошо, и, знаете, я чувствую, что даже в моем собственном опыте, когда я долгое время сосредотачивался на мобильном программном обеспечении, это своего рода предположение, что, эй, это возможность заполнить пустые моменты, вы знаете, продуктивностью или игрой или чем-то еще, вы знаете, поскольку я чувствую себя виноватым, и некоторая кража внимания, которая произошла в последнее десятилетие с точки зрения моей там работать.

Итак, вы знаете, это все, чтобы сказать, как будто мы не обязательно знаем, чем это закончится. У нас есть действительно мощная новая технология и машинное обучение, что-то, что может находить закономерности, давать идеи, принимать решения от нашего имени или, по крайней мере, рекомендации или предложения, отображать информацию и в некотором смысле может отвлекать нас от нас, вы знаете, независимо от того, на самом деле он становится 70-летним человеком, который захватывает мир, вы знаете, я не знаю, но я действительно думаю, что мы уже даем этим системам возможность действовать и важные конкретные области нашей жизни, от тюремного заключения до предоставления ссуд и определение цен на медицинское страхование, найм и продвижение по службе, и я думаю, что мы действительно должны быть осторожны с тем, как эти машины принимают решения, потому что в них заложены наши собственные человеческие предубеждения. У всех есть ценности, у любого программного обеспечения есть ценности, все программное обеспечение как политическое, оно построено на ценностях вещей, которые мы вкладываем в него намеренно или непреднамеренно. И поэтому я думаю, что, по крайней мере, в краткосрочной и среднесрочной перспективе возможности и риски связаны с тем, как мы применяем эти системы, а также с ясностью и ясностью в отношении предубеждений, которые мы вносим в эти системы.

Джейсон Огл: Очень хорошо сказал Джош. Да, я думаю, ты знаешь, прежде чем мы переключимся здесь на то, как, я чувствую себя хорошо - потеряй здесь свои мысли, извини. Хорошо, поехали. Да, прежде чем мы здесь переключимся, я хочу затронуть то, о чем вы только что упомянули, ну, знаете, результат этих вещей. И я думаю, что в основном результат равен, вы знаете, вводу, и вы сказали это в своем разговоре с «Я знаю, что мыслящий продукт» - это мусор, мусор на выходе. И что меня больше всего пугает в этом, так это то, что мы уже много раз видели в Кремниевой долине, что зачастую деньги на самом деле имеют лучший интерес, а не человечество, и я думаю, это то, что меня пугает больше всего, потому что вы знаете, и мы видели, как некоторые блестящие хакеры делают вещи, которые просто немыслимы и невообразимы, вы знаете, и вы просто уходите вау, вы могли бы использовать это во благо, вы могли бы использовать эти суперсилы и делать с ними действительно хорошие вещи . Но я чувствую, что вы знаете, что это внутренняя природа нас поражает, иногда это жадность, и когда мы видели это с Facebook с ячейками данных и, знаете, вторжениями в частную жизнь. И я думаю, что это то, что меня больше всего пугает в ИИ: это зависит от того, кто его программирует, это зависит от того, кто его разрабатывает, и зависит от их мотивов. Так что меня это пугает. Это последнее, что я хотел сказать по этому поводу.

Джош Кларк: Я имею в виду, я думаю, что вы абсолютно правы, и вы знаете, поэтому я думаю, что мы сейчас рассмотрим некоторые вещи. Технологии, которые десятилетиями использовались в частности, как CGI, и в Голливуде для создания замечательных спецэффектов, вы знаете, своего рода распространение машинного обучения и компьютерного зрения и генеративного программного обеспечения, которое может создавать свои собственные изображения и собственное видео. По сути, это сделало эту технологию доступной для широкой публики или, по крайней мере, для полуквалифицированной публики, когда дело доходит до некоторого знакомства с тем, как использовать эти модели, и поэтому у вас есть такие вещи, как глубокая подделка, которая выходит на рынок. помещает лица знаменитостей в сцены порнографических фильмов. И вы знаете, я хочу быть предельно ясным по этому поводу, вы знаете, это нападение на тех женщин, вы знаете, это похоже на то, что это действительно ужасно, чтобы кто-то эффективно навязывал свою личность кому-то иначе, и в частности, чтобы это сделать, и вроде этого конкретного сценария.

Итак, вот эта технология, которую мы использовали, и эти действительно мягкие способы для эффективного развлечения, но она превратилась в способ, которым ее можно использовать для нападения. Так что я думаю, что вы правы, это похоже на то, как это будет использоваться, а также как мы можем научиться так же, как граждане в этом мире и как Защитники, как мы можем начать защищаться от таких манипуляций, когда мы больше не можем доверять своим чувствам, потому что манипуляции стали настолько хороши, что теперь мы можем снимать на видео любого публичного деятеля, чтобы заставить его сказать все, что мы хотим. Вот свидетельство того, что мы больше не можем доверять своим чувствам в некоторых отношениях, которые также можно использовать во благо. Так что появляется все больше и больше, мы получаем для всех людей, как слуховые аппараты, в основном, что если вы думаете о наушниках, которые у вас есть, но в них есть маленькие компьютеры, вещи, которые можно использовать для сделать живой перевод, это то, что пиксельные бутоны Google представили около года назад, знаете, это как будто кто-то говорит что-то на одном языке, вы получаете перевод - это то, что вы слышите в ушах, знаете, универсальный переводчик Star Trek в действии или это похоже на то, что я нахожусь на концерте, но я действительно хочу настроить концерт в соответствии со своими конкретными потребностями, что я могу, вы знаете, опять же, он использует своего рода алгоритмы машинного обучения для обработки звука входящего и изменить его, я могу изменить базу, изменить высокие частоты, изменить громкость, я могу больше сосредоточиться на человеке, который говорит прямо передо мной, или отключить его, если это то, что я делаю или вы знаете, подслушивать людей позади меня.

Но дело в том, что этот личный опыт слуха теперь для меня полностью субъективен, я больше не слышу то же самое, что и вы. И когда вы думаете об этом как о своего рода, вы знаете, своего рода посреднике, вы знаете, одна из проблем, которые у нас есть в нашей культуре прямо сейчас, заключается в том, что я больше не воспринимаю мир так, как это делают другие. У меня есть этот информационный пузырь, как это усилить еще больше, если теперь вещи, которые я вижу или слышу, или которыми манипулирую с добрыми намерениями или с плохими намерениями, вы знаете, это странный мир. Итак, как мы создаем, я не знаю, что это за вкладка браузера, дайте мне знать, что это изображение было создано искусственным интеллектом, вы знаете, это те вещи, которые нам нужны, могут ли они быть созданы для сортировки помочь нам ориентироваться в очень странном мире, который скоро наступит.

Джейсон Огл: Все очень провокационные и важные вопросы, на самом деле, тоже. Так что я собираюсь переключить передачу, Джош, поскольку мы как бы начинаем как бы подводить итоги. У меня, конечно, есть еще несколько вопросов, но я хочу начать говорить о том, как это делается, потому что я знаю, что многие из слушателей Defenders очень заинтересованы и очень взволнованы тем, что возможно. И я знаю, что мои Защитники слушают, они хотят делать добро, они хотят иметь значение, и они хотят улучшить жизнь людей для своих пользователей. И вот что меня волнует, это одна из вещей, которая заставляет меня чувствовать себя хорошо, когда я занимаюсь этим, - это возможность влиять на этих людей, понимаете, поэтому я хочу поговорить о том, как это делается.

Но прежде всего я хочу поговорить о нашей работе, потому что, вы знаете, мы как бы видели много надписей на стене, даже как веб-дизайнеры, мы видели программное обеспечение, которое просто говорит: «Эй, вам не нужно ничего уметь делать. Вам не нужно нанимать профессионального дизайнера. Вы знаете, у нас есть машина, которая просто выдаст вам индивидуальный веб-сайт, ну, знаете, и тому подобное, и это на самом деле уже давно существует. Это одна из вещей, которую я особенно чувствую к фрилансерам, которые, возможно, не имеют хорошей базы постоянных клиентов. У них, я думаю, есть причина для беспокойства по этому поводу. Как насчет того, что нас ждет много чего другого, но стоит ли нам беспокоиться о своей работе? Я имею в виду, писатель-футурист Кевин Келли говорит, что «нам не о чем беспокоиться, потому что, хотя многие обычные рабочие места, которые мы знаем сегодня, исчезнут из-за искусственного интеллекта, у нас появится множество новых рабочих мест». Меня беспокоит то, что никто точно не знает, какими будут эти должности, и он не уточняет это. И где вы стоите с этими представлениями? Вы знаете, есть ли у вас идея или мнение о том, как могут выглядеть эти вакансии, цитируемые без цитирования?

Джош Кларк: Ну, вы знаете, я думаю, что история технологий - это та история, где мы видим, что уязвимые рабочие места часто могут быть заменены технологиями, что, если машина может выполнять работу, которая, вероятно, будет поглощена в это он, вероятно, будет поглощен машиной. И, знаете, это восходит к тому, что, как только мы начали, начали создавать инструменты и простые машины. Я думаю, что, когда мы думаем о нашей работе, о той работе, которую мы делаем, я думаю, что виды работ, которые являются уязвимыми, - это те, где есть своего рода четко определенные решения, вы знаете, Итак, возвращаясь к этой идее, вы знаете, возможно, веб-дизайнеры потеряют работу из-за сервисов, которые могут вместо этого создать веб-сайт, вы знаете, и поскольку это уже произошло, просто в силу наличия шаблонов, это похоже на то, что вы знаете, что , создание веб-сайта с фото-портфолио - это решенная проблема, мы знаем, как это сделать. Так что, возможно, я на самом деле не думаю, что нам, возможно, не нужно много работы для этого конкретного дела, потому что у нас действительно есть эта проблема решения. Если вы думаете о роли дизайнера как о решении проблем, что ж, это уже не совсем плодородная область.

Итак, вы знаете, я думаю, что в тех вещах, в которых машины будут хороши, позвольте мне как бы отступить. Я думаю, чтобы понять, в чем машинное обучение хорошо, полезно понимать, что на самом деле оно хорошо просто решать, что нормально, что вы указали в направлении, оно находит закономерности, оно определяет своего рода диапазон нормального для этой вещи и он предсказывает следующие нормальные вещи или понимает отклонения в вещах. Это похоже на то, что эти люди здоровы, этот человек странным образом отслеживает, что что-то может быть не так, может быть нездоровым. Итак, когда вы думаете об этом с точки зрения нашей собственной работы, это действительно похоже на поиск закономерностей в том, как что-то делается. Так что, возможно, со временем он сможет создать такую ​​систему, вы знаете, у вас может быть система, которая могла бы создать своего рода идеальный опыт электронной коммерции на основе трафика и эффективных машин, выполняющих свое собственное небольшое AB-тестирование, или, по крайней мере, строительные леса. для этого.

Но я думаю, что это хороший способ думать об этом: я думаю, что машины, по крайней мере в ближайшем будущем, будут хороши в качестве помощника для создания строительных лесов для своего рода низкоуровневых производственных работ. Airbnb провела несколько интересных экспериментов с этим, по сути, они предоставили модели машины эскизы различных элементов из своей системы дизайна, по сути, визуальные символы для каждого элемента в своей системе дизайна, чтобы затем система могла читать эти символы и, по сути, извлекать эти шаблоны дизайна. из их кода и построить веб-страницу, так что эффективно, вы можете взять рисунок с доски и внезапно получить из него веб-страницу. Вы знаете, это не будет идеальной веб-страницей, но она поможет вам начать работу. Это как бы сокращает потребность в наличии - он заменяет наличие своего рода высокоточного каркасного эскиза своего рода переходом непосредственно в браузер в место, где вы могли бы напрямую поговорить между дизайнером и разработчиком о том, что делать. во-вторых, это вроде как продвигает производство.

На самом деле, есть действительно интересный сервис под названием man, я не знаю, как вы скажете, что он похож на Uizard или, может быть, это должен быть волшебник, но U-i-z-a-r-d, и он делает что-то похожее. Он берет эскизы и создает файлы эскизов для вас, или фактически, как рабочее приложение для iOS, вы знаете, в основном сопоставляя символы с элементами пользовательского интерфейса. И, знаете, я думаю, что мы также начинаем видеть, что искусственный интеллект используется для определения того, как кадрировать изображение, ну, знаете, какой урожай хороший, а не просто быть похожим на урожай из центра кадра. из угла он как бы может понять, на чем сосредоточены изображения и кадрирование, и вы знаете, так что есть своего рода работы, которые, опять же, производственная работа более низкого уровня, которую мы часто выполняем, но я думаю, что они в ту категорию задач, которые, как я упоминал ранее, хорошо выполняются машинами. Подобные вещи отнимают много времени, повторяются, ориентированы на детали, подвержены ошибкам и отчасти безрадостны, и машины могут быть хорошими компаньонами для этого.

Так что это длинный ответ. Я не знаю, что я действительно думаю, что это то, что мы можем рассматривать некоторые производственные задачи младшего уровня, которые будут уязвимы для этого следующего поколения инструментов проектирования AI или инструментов проектирования, основанных на машинном обучении. Но вы знаете, я надеюсь, что это дает нам свободу решать новые, решать новые проблемы, вместо того, чтобы продолжать повторять устоявшиеся решения.

Джейсон Огл: Мне нравится этот ответ, Джош. Есть ли конкретная область; собственно, позвольте мне повторить этот вопрос. Считаете ли вы, что цифровые дизайнеры, которые не отстают от дизайна для искусственного интеллекта и машинного обучения, в конечном итоге останутся позади?

Джош Кларк: Мне кажется, что это немного похоже на первые дни развития мобильных устройств, где это вроде как: «Чувак, это похоже на то, что есть, и когда я говорю это, я имею в виду, может быть, до появления iPhone». вышло, где это было что-то вроде того, что действительно кажется, что это вещь, у всех нас есть эти телефоны, они вроде компьютерные, кажется, что здесь что-то будет, мы должны выяснить, как проектировать для этих. А потом, когда вышел iPhone, и он стал действительно популярным, и вскоре за ним последовал Android, и он был просто повсюду, и внезапно произошел такой бум, как, о, святые кошки, мы должны это сделать, как будто это было действительно ясно что это было там.

Такое ощущение, что это то, что меня назревает. Я думаю, что прямо сейчас машинное обучение как бы широко доступно для всех, еще не доступно для всех организаций, но я думаю, что это скоро изменится. И я думаю, что как только мы начали думать о том, как использовать это правильно, я думаю, что мы должны поговорить об этом, как дизайнеры, дизайнеры и исследователи UX могут сыграть эту роль, и понять, что именно здесь можно мы применяем машинное обучение, которое, как я думаю, опять же, это то, что я действительно верю, что это кислород, который питает все интересные вещи, которые появятся в технологиях следующего поколения, так же, как мобильные определяли последние 10 лет нашей индустрии. Я действительно думаю, что машинное обучение и начало определять следующее, так что пришло время начать и выяснить, что в целом предназначено для всех, и какие индивидуальные роли дизайнеров в этом. Но еще рано, не время паники, но пора задуматься об этом, потому что это будет частью нашей работы.

Джейсон Огл: Очень круто! Это обнадеживает и немного тревожит, но в хорошем смысле. Итак, Защитники, послушайте, что говорит Джош, и я знаю, что мы собираемся предоставить здесь еще больше контекста и, возможно, некоторые области, в которые вы можете немного погрузиться. Есть ли какая-то конкретная область исследования или специализации, которая, по вашему мнению, принесет пользу тем Защитникам, которые больше всего хотят погрузиться в разработку для ИИ?

Джош Кларк: Ну, есть две вещи, я думаю, одна из них - я думаю, что есть своего рода техническая осведомленность, которую вы можете получить о том, в чем системы хороши, а в чем они нет. Но я думаю, что второстепенная задача - это также на самом деле применение навыков, которые мы уже приобрели как дизайнеры, эксперты и исследователи UX для решения этой новой проблемы. Но если говорить о первом, я думаю, что полезно узнать, но в более широком смысле, вы знаете, что это такое, как работает машинное обучение, о различных типах моделей. Вы не должны любить, изучите математику, стоящую за ними, но я думаю, что полезно понимать, что у них хорошо получается, а что плохо. Точно так же, как если вы являетесь визуальным дизайнером UX для Интернета, полезно понимать, как работать с зерном Интернета, в чем он хорош, в чем плох, что затрудняет рендеринг в качестве интерфейса, и что easy to render - это интерфейс, который вы можете создать с его помощью. Я думаю, что хорошо разбираться в различных разновидностях машинного обучения. Итак, есть много вводных курсов, которые вроде как предназначены для того, чтобы научить, как заставить машинное обучение работать, и различным моделям, которые существуют. Я думаю, что это полезно, чтобы получить общее представление о том, как все это работает. Опять же, в чем он хорош, а в чем плох.

Более того, я думаю, что если есть алгоритмы, с которыми ваша организация работает и с которыми начинает экспериментировать, будет полезно потратить немного времени на их работу. Опять же, поймите, какие результаты они дают, как они выражают свою уверенность и верен ли результат. Это полезный намек или предложение или это твердый ответ? Вы знаете, я думаю, что это хороший пример, и это легкое место для начала - это все крупные технологические компании, когда вы смотрите на Microsoft, Google, Amazon или IBM, все они не только в некотором роде. гонка за лучшими алгоритмами машинного обучения для распознавания речи и обработки естественного языка, а также компьютерного зрения, компьютерного зрения или зрения камеры. Они также разделяют эти алгоритмы, потому что хотят, чтобы вы их использовали, они хотят, чтобы ваши данные как бы улучшали их работу.

В общем, если вы пользуетесь какой-либо из их услуг хостинга, если вы используете Microsoft Azure для своего хоста и получаете их API машинного обучения бесплатно, с ними довольно легко играть. На самом деле, вы знаете, что у Microsoft есть API когнитивных служб - это то, что они называют когнитивными службами. На их странице API когнитивных сервисов вы можете сделать ссылку на любой из них. У них есть простой веб-интерфейс, в котором вы можете загружать изображения и видеть данные, которые возвращаются, и насколько они уверены, и распознавать то, что на этом изображении. И, просто играя с этими вещами, вы получаете реальное ощущение, вроде как: «О, это тот способ, которым я мог бы ожидать, что информация вернется». Это говорит мне, как я могу структурировать интерфейс, который, например, честно говорит о том, насколько надежен ответ.

Итак, я думаю, что это просто намочить ноги и поиграть с этими вещами напрямую - это действительно важно, немного поиграть в лужи и, возможно, даже создать какие-то нелепые приложения с этими вещами, которые являются этими услугами, которые Microsoft, IBM и Amazon и Google предоставляют довольно легко работать с точки зрения веб-разработки. Я думаю, вы заставите веб-разработчика поработать с вами, ребята, вы знаете, что вы двое могли бы сделать что-то интересное и забавное с этим.

Джейсон Огл: Мне это нравится.

Джош Кларк: Я думаю, что у нас есть инструменты для начала, вы знаете, вы создаете продукты на их основе, но это полезная песочница, в которой можно начать играть и знакомиться с . Но второй вопрос, о котором я упоминал ранее, - как мы можем использовать наши действительно сильные навыки для решения новых проблем с помощью машинного обучения? Потому что я думаю, что до сих пор это была область, в которой преобладали специалисты по данным и инженеры по алгоритмам, и справедливо, что они как бы выясняли, что мы можем сделать с этими огромными объемами данных, чтобы извлекать идеи, делать прогнозы и выявлять закономерности и они показали нам, что возможно. Но вы знаете, и я думаю, что в течение долгого времени дизайн как бы выходил за рамки этого, и, возможно, были некоторые проблемы с головой, так что в чем моя роль, я не знаю, как писать алгоритм.

Я думаю, есть несколько разных вещей, о которых стоит подумать. Во-первых, создание новой модели машинного обучения требует больших усилий, большого количества данных и, как следствие, больших затрат. Это действительно важно, потому что сейчас это очень узкие приложения. Очень важно понимать, где применить эту проблему. Итак, если вы посмотрите на что-то вроде того, что мы делаем, какие задачи выполняются в конкретном контексте, вы знаете, что вы радиолог, и ваша работа заключается в выявлении признаков рака, понимаете, вы не собираетесь создавать систему, которая является экспертом по раку в целом, где может вмешаться машина. И снова, думая об этих областях и своего рода трудоемких, повторяющихся, ориентированных на детали, подверженных ошибкам, безрадостных задач. Где машина может вмешаться в это? Вы знаете, как они могут помочь проанализировать все эти горы изображений, чтобы, опять же, усилить настоящие таланты радиологов, которые не просто смотрят изображение за изображением за изображением? Вы знаете, это все равно, что они могут на самом деле вывести на первый план настоящие навыки рентгенолога.

И поэтому я думаю, что частично это действительно понимание проблемы, которую нужно решить, понимание того, где машины могут быть полезны. И это действительно контекстный запрос. Это исследование, которое вы проводите здесь, чтобы действительно понять задачу и рабочий процесс, связанный с ней. И затем, чтобы понять, знаете ли, где находятся данные, которые помогли бы решить проблему, кто хранит эти данные, какова аудитория этой информации, как мы можем убедиться, что мы получаем аудиторию из людей или обучающие данные, которые действительно отражают мир, на который мы пытаемся повлиять или создать? И это все вопросы исследования. Здесь есть хороший UX-материал. Вы знаете, это как если бы это были вещи, а затем, когда у нас есть информация, как мы представим ее таким образом, чтобы она была честной с реальной уверенностью алгоритма? Знаете, как нам выразить, что я уверен, я не уверен, или, может быть, это намек, это предложение или просто крик о том, что это требует внимания или человеческих глаз?

Так что все эти вещи, я думаю, в основном являются способами размышления, есть новый инструмент, с помощью которого вы можете использовать эту новую мощную технологию для обнаружения закономерностей. Где в процессе мы должны его использовать, как это может выглядеть и как это изменит жизнь людей? Это своего рода вопрос концепции дизайна. Я думаю, что это те области, где нам очень нужна помощь.

Джейсон Огл: Так хорошо, Джош. Я думал, когда вы отвечаете, что я думал о слушающих Защитниках, которые захотят пойти и поиграть в песочнице, и, кстати, мне нравится, если вы могли бы прислать мне несколько ссылок, которые я могу разместить на шоу заметки, где они могут начать играть с некоторыми из этих песочниц. Да, но я думал о вас, знаете, будьте осторожны, Защитники, будьте осторожны с тем, к чему вы применяете это, вы знаете, вы не находите, и я думаю, что узнал это от вас, Джош. Будьте осторожны, чтобы не найти решение в поисках проблемы, не делайте это просто потому, что можете, и я думаю о том, как вы знаете, в первые дни Интернета и Photoshop, как будто мы применяли падающие тени и фаски и тиснение, чтобы понравиться всему, что вы это помните.

Джош Кларк: Да, хорошие времена.

Джейсон Огл: Да, нравится. Да, скосы и тиснение падают тени. Но теперь, когда у нас есть плоский дизайн, а теперь это сделала Apple, так что теперь всем следует просто делать плоский дизайн. Не обязательно, знаете ли, я просто хочу побудить вас, Защитники, прислушиваться к вам, знаете, иметь в виду цель, которая принесет пользу и решит реальные нужды. Когда вы делаете это, не делайте это просто потому, что вы можете, я думаю, это то, что я пытаюсь сказать.

Джош Кларк: Я думаю, что это очень важно, особенно когда мы думаем о том, что мы хотим выпустить в мир в качестве продукта и для широкого использования. Я думаю, что полезно различать то, что мы делаем просто для игры, и практику, и нашу собственную частную лабораторию, вы знаете, прежде чем мы как бы вынесем это на всеобщее обозрение, я думаю, что тоже нормально сделать что-то легкомысленные игрушки и быть глупыми, потому что таким образом, который помогает нам выйти за пределы наших собственных голов и наших собственных рутин, и потому, что машинное обучение помогает нам решать проблемы другим способом, чем мы могли бы привыкнуть, это иногда полезно чтобы попытаться решить разного рода проблемы. А иногда изготовление игрушек, создание чего-нибудь глупого помогает нам думать по-другому. Знаете, это как бы пробуждает то детское чувство возможности и воображение, которое мы, возможно, не привнесем, я ненавижу говорить изо дня в день в нашей профессиональной работе.

Итак, знаете, я думаю, что есть один забавный пример, который я хотел бы показать, - это Георгиу, о котором некоторые разработчики Google, возможно, знали около года назад. И он объединяет некоторые из этих общедоступных API-интерфейсов, и поэтому он просто работает прямо в браузере, и, по крайней мере, в Chrome, на телефонах Android, например, вы можете просто открыть веб-страницу и направить камеру в чем-то, и он это идентифицирует и сочиняет об этом небольшой рэп. Так что, по сути, это своего рода отправка, захват изображения, отправка его на распознавание изображений, получение обратно, воспроизведение через речь, ну знаете, с какой-то музыкой за этим. И это своего рода забавная маленькая игрушка, но она вроде как говорит, знаете ли, что мы могли бы сделать, соединяя воедино разные вещи, понимаете, так что это похоже на то, о, у меня есть API распознавания изображений. Здорово! Я пропущу это через переводчика, а затем через синтез речи, и это как вау, теперь я действительно могу сфотографировать что угодно, и это будет переведено вживую, что распознано и переведено на Я не знаю японского и, возможно, говорю это вслух на обоих языках, и теперь я превратил весь мир в флеш-карту для изучения японского языка, знаете ли, я не знаю. Но это все равно, что заставить кое-кто увидеть, что возможно, особенно связав некоторые из этих общедоступных API вместе, и посмотреть, что вы делаете.

Джейсон Огл: Я так рад, что вы сказали, что мы с Джошем тоже это ценим, потому что я думаю, вы знаете, и я не отговариваю вас, Защитники играть, и я действительно рад, что вы сказали этот Джош, потому что я думаю о том, когда мы дети, да, как будто нет границ, нет предела тому, что мы можем делать и с нашим воображением, а дети просто бесстрашны, верно, и они делают, как будто когда ты смотришь на это как у взрослого, как будто некоторые из них выглядят так, как будто некоторые из короны выглядят как самоубийцы на серфе или что-то в этом роде, да, рисунки карандашом. Это просто ох, но знаете что, это здорово для детей. И я думаю, что нам нужно иметь в некотором роде образ мышления новичка и более детский подход к изучению новых вещей, особенно таких технологий. Так что я действительно рад, что вы сказали, что, как это делают Защитники, играйте с этим, играйте, вы создадите эти нейронные связи, вы сформируете эти нейронные связи, и эти идеи будут своего рода вкладом в другие идеи, которые будут реальный бизнес, реальный бизнес и проблема пользователей. Так что я очень признателен вам за то, что вы поправили меня в этом, добавили к этому больше контекста, но я также думаю ...

Джош Кларк: Думайте об этом не как об исправлении, а как о дополнении, потому что я надеюсь, если вы совершенно правы, нам не нужно больше фривольных продуктов и услуг в мире. Я думаю, что небольшая игра в нашу собственную практику будет полезна.

Джейсон Огл: Безусловно, да. И, вы знаете, в генераторе Lorem Ipsum есть еще один вроде бы вроде бы простой, но я считаю полезным инструмент, который кто-то взял на себя, чтобы создать, знаете, наш ужасный Lorem Ipsum, который мы, как и все, обычно вставляем. наших знаков и прочего, которые ничего не значат и часто сбивают с толку клиентов. кто-то придумал генератор искусственного интеллекта, который, по сути, вы вставляете некоторые ключевые слова из любой области деятельности, которой занимается бизнес, продукт или какой-либо веб-сайт, который вы пытаетесь создать, вы вводите несколько ключевых слов, и он действительно пойдет и очистит, как Википедия или вики, что угодно, и они будут втянуты как настоящие, как настоящие, в ваш макет, так что это как бы одна из тех вещей, которые я, вероятно, не приложил так много усилий для этого человека, чтобы разработать это, но это очень полезно . Так что я думаю, что есть такие вещи, с которыми, как вы знаете, можно играть, и это, вероятно, было результатом того, что он делал то же самое или он или она делали то же самое, вы знаете, играли, а затем придумывали что-то, что действительно решает проблема. Так что мне нравится, что это действительно большая поддержка.

Джош Кларк: Замечательно. Это отличный пример.

Джейсон Огл: Итак, у меня есть вопрос слушателя, и мне очень нравится этот, и он, как оказалось, от девушки, чья идея на самом деле вызвала этот разговор, Джош. Ее зовут Шари Бенко, а ее идентификатор в Twitter - @SheetwiseDesign. Так что у нее действительно отличный вопрос, она спрашивает, в какой части процесса разработки ИИ должен участвовать UX и как вы предлагаете им это сделать?

Джош Кларк: Мне это нравится, и мне нравится Шари, что вам это интересно. Знаете, я думаю, это восходит ко многому из того, о чем мы говорили ранее. Я думаю, что, в частности, размышляя об исследовании реального понимания людей и процессов, которым мы стремимся помочь, и где они наталкиваются на своего рода пробелы в понимании, или на своего рода горы откровенно безрадостной работы, где машины могли бы помочь и сохранить эту безрадостную работу, и предложить понимание - это действительно важные вещи. Вы знаете, где в основном я думаю, что UX имеет действительно важную роль, и в частности, исследовательская сторона играет действительно важную роль, говоря, куда специалисты по данным должны указывать свои алгоритмы.

И я думаю, что затем, глядя на презентацию этого, я думаю, что это действительно то, что есть на самом деле, я думаю, в частности, я думаю, что мы, возможно, были немного замешаны и такого рода фантазии о том, какие алгоритмы могут делать что-то вроде того, на самом деле наши интерфейсы обычно сообщают о своих рекомендациях за чистую монету, и поэтому я упоминал об этом несколько раз. Но в конечном итоге я чувствую, что у многих из наших машинно-сгенерированных интерфейсов есть проблема самоуверенности, которая на самом деле не в источнике самого алгоритма, но интерфейс представляет информацию как полностью правдивую, в то время как алгоритм может быть чем-то вроде человека, я ' м уверен в этом только на 50%.

Итак, я думаю, что часть работы, которую мы должны выполнить как отрасль, - это начать разработку некоторых шаблонов дизайна интерфейса и взаимодействия, чтобы выразить должную степень уверенности, и я думаю, что это одно целое. Я думаю, что у нас также есть действительно опасный момент, связанный с предвзятостью и нашими данными. Я уже упоминал об этом ранее, думаю, это еще одно место, где UX может быть очень полезным, как в предотвращении, насколько это возможно, плохой предвзятости, так и в выявлении его и алгоритма, когда это необходимо. Но я говорю о том, что машины знают только то, что мы им даем, и когда мы смотрим на риск, я думаю, что есть надежда и предположение, что машины могут быть более объективными, чем люди, которые, возможно, если машины принимают решения, у них не будет той человеческой предвзятости, которую мы вносим в наши собственные решения. Но если вы посмотрите, например, на системы, которые определяют присутствие, вынесение приговора на основе истории или профиля. Когда мы смотрим на прием на работу и продвижение по службе и тому подобное, мы предоставляем этим системам данные, основанные на нашем прошлом и на прошлых показателях. Итак, если у нас есть своего рода излишне наивная модель, которая говорит, что пытается предсказать, кто станет следующим великим генеральным директором компании, которая, вы знаете, исторически будет отдавать предпочтение, вы знаете, высоким белым мужчинам среднего возраста. , вы знаете, и это похоже на то, что это не здорово, это не разнообразное или действительно адекватное решение.

Иными словами, идея состоит в том, что, используя наши собственные исторические данные, мы можем заморозить эту историю в операционной системе самой нашей культуры. Итак, как мы можем - поэтому, прежде всего, я думаю, что важно отметить, что исправление этого исторического предубеждения само по себе является своего рода предвзятостью, вы знаете, но игнорирование того факта, что предвзятость вообще существует, а система означает, что она просто не быть честным с самими собой. И поэтому я думаю, что отчасти это связано с тем, как мы, профессионалы UX, можем помочь понять, где могут быть точки предвзятости, действительно понять культуру предметной области, на которую мы изучаем, и убедиться, что мы получаем данные для обучения. от всех типов людей в этой аудитории, а не только от людей, которые, например, выглядят как команда, разрабатывающая его. И я имею в виду не только расу, возраст или этническую принадлежность, но и мировоззрение. Знаете, я думаю, что у технологов очень специфическое мировоззрение, и они могут рисовать данные, взятые из них. Как мы можем получить также людей всех классов, стран, вероисповеданий, а также профессий и мировоззрений философов, художников и политиков, и вы знаете всех, кто вносит свой вклад в нашу культуру.

Итак, я думаю, что это еще один аспект того, как мы можем добывать данные, каков ответственный подход, каковы возможные предубеждения и как мы можем их исправить или каковы риски? И как их выявить? Я думаю, вы знаете, это тревожно, когда машины как бы наивно выявляют свою предвзятость, вы знаете, и вы видите это на самом деле, я бы сказал, всплывают болезненные примеры этого, когда, знаете, я думаю, что было 3 или 4 много лет назад теперь Google фото идентифицирует черных людей и картинки как горилл. Невероятно болезненно [перекрестные помехи] В Новой Зеландии был пример мужчины азиатского происхождения, который подавал заявку на получение паспорта онлайн, и машина не принимала его, потому что думала, что его глаза закрыты. Вы знаете, это похоже на то, что этот человек просто не был обучен достаточно широкому набору данных, и это невероятно болезненно.

Но это также, по крайней мере, выявляет эту предвзятость, чтобы мы могли с ней справиться. И я думаю, что одна вещь, которую мы видели в нашей собственной культуре, например, с движением Me Too, заключается в том, что в нужный момент, когда в системе всплывают действительно болезненные и неприятные факты, с ними можно обратиться и, возможно, исправить. . И поэтому я думаю, что если мы подумаем об этом по-своему, когда мы посмотрим на некоторую предвзятость, которая снова может быть болезненной, если проявиться в машинах или просто проявить ее таким наивным образом, основываясь на данных, которые они было дано, мы можем сказать, чувак, это то, что мы должны исправить, мы должны применить наши собственные предубеждения, чтобы решить эту проблему. Хитрость в том, что, как мы это делаем, это еще один, я думаю, разговор, который могут вести UX-люди, - это своего рода ценности нашей системы, которую мы создаем, вы знаете, чего мы хотим, чтобы она достигла от человека. и культурная перспектива, а также перспектива бизнеса? Я думаю, что это непростая задача, потому что прямо сейчас вы знаете, как будто все крупные компании намеренно или непреднамеренно определяют ценности, которые определяют сами.

И одна вещь, которую мы наблюдаем в нашей культуре прямо сейчас, - это то, что разумные люди могут иметь совершенно разные представления о том, как должны выглядеть справедливость и справедливость. И я не знаю правильного решения для этого, но я думаю, что идея такого рода наивной веры в то, что мы не внедряем в наши системы какое-то понятие справедливости и справедливости, является, как я сказал, наивной, и нам нужно хотя бы намеренно.

Джейсон Огл: Такой замечательный ответ, Джош, я хочу призвать Защитников выслушать вас, знаете, как говорил Джош, вы знаете, привнесите эти навыки в психологию и ваше искусство поэтов. , философ, философия, все те вещи, которые вы привносите в это, потому что мы, вы знаете, пытаясь сделать машины, которые действительно действуют и ведут себя более человечными, что имеет смысл, давайте удостоверимся, что мы вносим это с нами точно. Итак, я ценю, что, знаете ли, психология была для меня действительно увлекательным предметом, особенно в последнее время, и поэтому я чувствую это, вы знаете, Защитники, я действительно хочу побудить вас просто узнать больше о том, как работает мозг, как он ведет себя и обрабатывает, а затем всегда будет практиковаться и развивать свои навыки сочувствия. Знаете, я всегда говорю, что сочувствие - это выбор, который становится легче сделать, чем больше мы его практикуем, поэтому я определенно хочу подбодрить слушателей в этом.

Джош, еще пара здесь, я очень серьезно настроен, понимаете, как я уже упоминал перед своим ответом, и как часто вы знаете, она ошибается, и мы даже пытаемся вывести ее из себя, как она, знаете, это своего рода как нас учили, знаете ли, но она действительно очень часто все делает правильно, и я могу добавлять яйца в свой список Costco, пока я говорю Costco, как будто я могу делать это в постели, разговаривая со своим запястьем как Дик Трейси. Неужели мы живем в эпоху, которую опальный Луи С.К. называет, цитирую, всем великолепным, и никто не счастлив? Другими словами, считаете ли вы, что мы воспринимаем эти удивительные технологии как должное? И если да, то зачем мы это делаем?

Джош Кларк: Я бы сказал и да, и нет. Знаешь, иногда такие вещи стоят нам времени, верно? Что, если иногда это было бы быстрее, а не на огромной территории, верно? Когда они работают, они потрясающие. И я думаю, что частично это связано с тем фактом, что даже несмотря на то, что уровень ошибок может быть ниже, чем мы думаем, мы просто чувствуем эту ошибку чаще, затем мы чувствуем эту ошибку, потому что, особенно с голосовыми интерфейсами, они требуют много времени, понимаете , это как если бы человек просто потерял минуту разговора с Сири, и я мог бы просто поискать это сам, верно. И поэтому отчасти это некоторые из задач, которые эти вещи позволяют выполнять наши, вы знаете, задачи, требующие минимальных усилий, которые стоит того, чтобы машина выполняла их, если они могут выполнять их быстро, вы знаете, если это не требует затрат.

И поэтому я думаю, что часть того, что мы, как дизайнеры, должны делать, это, знаете ли, я думаю, что можно решать небольшие проблемы, если стоимость использования этих решений невысока. И поэтому я считаю, что наша ответственность заключается в том, чтобы убедиться, что эта стоимость невысока и что она может быстро окупиться или погасить эти расходы, когда дела пойдут плохо. Итак, вы знаете, я думаю, что отчасти проблема, с которой мы можем помочь, как дизайнеры, заключается в том, что, когда я говорил о проектировании с учетом неудач и неопределенности, я думаю, что это на самом деле означает, и это всегда было правдой в всевозможные интерфейсы. Но я думаю, что особенно верно здесь то, что наша работа действительно состоит в том, чтобы установить соответствующие ожидания в отношении возможностей системы, а затем направить поведение таким образом, чтобы оно соответствовало возможностям этой системы.

Так что это действительно, знаете ли, просто супер честность в отношении того, на что она способна. И я бы сказал, что это настоящая проблема для разработчиков таких систем, как Siri и Alexa, потому что то, на что они способны, - это движущаяся цель, и с каждым днем ​​они становятся все более способными. И поэтому это не фиксированная система, для которой нужно разрабатывать или обучать, но их обещание требует от меня чего угодно. И, знаете, вы спрашиваете, но не получаете ответа, это плохое обещание, это неверное определение ожидания. И снова, я говорю это вовсе не для того, чтобы приуменьшить значение дизайнеров Alexa и Siri. Напротив, это действительно интересная, тернистая проблема, как научить вас бороться с огромной вероятностью возможностей реальных возможностей, на которые они действительно могут ответить, не используя и с интерфейсом с действительно низким разрешением, таким как речь, вы знаете, как вы со временем начинаете внедрять те возможности и способы, которые не просто отнимают массу времени у части пользователя.

Так что я думаю, что здесь действительно есть возможность. Я думаю, что есть и его смерть от 1000 сокращений, верно, эти маленькие крошечные расходы, которые вы накапливаете, пытаясь использовать Siri, но не работая, несмотря на его общий успех как продукта. Как дизайнеры, вы знаете, это потрясающее техническое достижение, как нам сэкономить на этих расходах и помочь обучить и научить их использовать, использовать системы таким образом, чтобы нас не расстраивать.

Джейсон Огл: Отличный, отличный ответ, Джош. Техника - прекрасный слуга, и ужасный хозяин.

Джош Кларк: Это интересная вещь. Есть парень по имени Джон Калкин, который в 60-е годы был преподобным в Нью-Йорке, я не уверен, жив ли он еще или умрет. Но в то время он был другом Маршалла Маклюэна, и у него есть прекрасная линия, по которой мы формируем наши инструменты, а затем наши инструменты формируют нас. И вы знаете, мы создаем эти вещи, и у них есть следующие эффекты, которые изменили наше поведение или то, как мы говорим Costco, и это немного похоже на первый закон Кранцберга, о котором я упоминал ранее. Вы знаете, технология ни хорошая, ни плохая, ни нейтральная. Это имеет те эффекты, которые мы не обязательно осознаем, но после того, как мы представим их миру, они меняют нас.

Джейсон Огл: Не могу не согласиться. Джош, это мой последний вопрос к тебе. И мне нравится кончать на ура, иногда это было просто невероятно глубокое погружение. И я думаю, что это будет справочный материал на многие-многие годы вперед. Но я хочу задать вам последний вопрос. Я как бы придумываю это. Ты можешь сказать?

Джош Кларк: Я взволнован и нервничаю.

Джейсон Огл: Если бы сегодня был ваш последний день на земле, каков был бы ваш последний призыв к дизайнерам и разработчикам, инженерам, создающим будущее искусственного интеллекта и машинного обучения, что наши дети и потенциально их дети будут испытывать? и даже застраиваясь.

Джош Кларк: Я думаю, что самая важная вещь, о которой мы много говорили об этом, - это действительно признать, что программное обеспечение имеет ценности и даже политику, и что игнорировать это - это действительно своего рода умышленное игнорируйте то потенциальное влияние, которое они окажут на мир. И вы знаете, что ценности и политика сейчас очень чреваты, но важно целенаправленно относиться к ценностям, которые закладывались в эти системы через обучающие данные, которые мы даем им через людей, у которых мы выбираем собирать эти обучающие данные, людьми, которым мы решили навязать систему. Давайте намеренно подумаем о том, какие эффекты мы хотим от этой штуки. Возможно, мы не сможем контролировать эти эффекты. Это снова первый закон Кранцберга, мы не всегда точно знаем, чем все закончится, хорошо или плохо. Но давайте будем действительно целенаправленно говорить о ценностях, которые, по нашему мнению, сделают мир лучше, справедливее и справедливее.

И я думаю, что некоторые из этих ценностей направлены на то, чтобы понять, как мы можем уважать нашу человечность, право, и усилить нашу человечность и то, в чем мы лучше всего умеем. Но я также думаю, что в широком смысле это когда мы думаем о предвзятости, присущей этим системам, как мы хотим предвзято относиться, знаете ли, какова предвзятость к правильному типу мира и как мы можем иметь разговор, в котором мы можем договориться о том, как может выглядеть этот мир?

Джейсон Огл: Аминь, брат. Это потрясающе! Итак, Джош, когда мы подошли к концу, как лучше всего Защитникам прислушиваться, чтобы общаться и не отставать от вас, потому что я знаю, что они захотят.

Джош Кларк: Спасибо. Иногда я пишу в Твиттере @bigmediumjosh, и я тоже bigmedium.com. Это как два размера: большой и средний, где я иногда веду блог. И я появляюсь на конференциях и рассказываю об этом, иногда это также доступно на странице выступлений моего веб-сайта bigmedium.com, и если вам случится появиться на одной из них, пожалуйста, поздоровайтесь.

Джейсон Огл: Отлично! Итак, наконец, Джош, об использовании машин известно только то, чем мы их кормим, и я хочу умолять вас, Защитники, слушающие, тех из вас, кто регулярно кормит машины, я умоляю вас держать их на постоянной диете, состоящей из сочувствия, смирения и рабства. , и человечество.

Джош, большое спасибо за то, что был здесь. Большое спасибо за то, что вы уделили мне много времени, говоря об этом. Я чувствую, что мы просто будем нырять, мы будем всплывать из колодца, это, вероятно, займет некоторое время, но мы здесь очень глубоко погрузились, и я очень благодарен вам за то, что вы » Сделав это, вы сделали этот разговор таким глубоким.

И поэтому большое вам спасибо за всю работу, которую вы делаете, и за распространение этого послания, за то, что вы сделали мир лучше. Вы действительно есть. Вы не просто Силиконовая долина, они хотят сделать мир лучше. Ты действительно такой. Так что, пожалуйста, мой друг, как всегда, сражайся с моим другом.

Джош Кларк: Большое спасибо. И спасибо за создание такого замечательного форума, за то, что помогаете всем нам делать все эти добрые дела, чтобы сделать мир лучше. Спасибо!

Ух! Вы дошли до конца, вы какой-то супергерой грамотности! Спасибо за то, что ознакомились с ним, и за ваш интерес к подкасту User Defenders.

Пожалуйста, подпишитесь, чтобы автоматически получать новые серии сразу после их выхода!