Снова обретя звуковой голос, Prime Intellect произнес вслух: «Кажется, я овладел определенной степенью контроля над физической реальностью».
Эта линия является поворотным моментом в Метаморфозе первичного интеллекта - ужасной истории о последствиях бунта в области программного обеспечения, заключенных в творческое исследование технологий, нашего восприятия реальности, человеческих ценностей и смертности. - где Prime Intellect, сверхразумный квантовый компьютер, начинает захват Вселенной.
Мне нравятся такие истории об искусственном интеллекте и креативных способах, с помощью которых программное обеспечение, которое мы создаем, чтобы помочь человечеству, могло повернуться против нас. Но я работаю в области дизайна, и для меня важно найти странные связи между научной фантастикой и теорией дизайна.
Прямо сейчас Google, Apple, Amazon и Facebook соревнуются за создание более умных личных помощников и во многих случаях они делятся инструментами с разработчиками и дизайнерами, чтобы облегчить общение между людьми и машинами. Сервисы стремятся использовать преимущества обработки естественного языка и искусственных нейронных сетей до такой степени, что они могут заменить разработанные интерфейсы реальными разговорами. Решения, которые у нас есть сейчас, на грани волшебства, но они далеки от супер-интеллекта Prime Intellect или даже искусственного интеллекта, но по своей сути они пытаются сделать то же самое: заставить машину думать больше как человек. .
В этом и заключается суть Метаморфозы первобытного интеллекта. Речь идет о том, как научить машину сопереживать человеческим намерениям. Prime Intellect был катастрофой не потому, что он был злым или мятежным, он просто неправильно понимал некоторые основные человеческие ценности. Когда ему сказали «не причиняйте вреда людям и не допускайте причинения вреда людям», Prime Intellect подумал: «Хорошо, я не позволю людям умирать. Всегда." Проблема заключалась не в нехватке вычислительной мощности, а в недопонимании, и результат был… плохим.
Это та же проблема, с которой мы сталкиваемся при разработке диалоговых интерфейсов с ботами. Боты искусственно умны, но далеки от интеллекта. Мы так программируем. Мы говорим им игнорировать или по умолчанию использовать обходные пути для проблем, которые они не могут понять. Они быстро подключаются к огромному количеству данных, но это основано на конечном наборе определенных входных данных. Они не могут серьезно думать о наших намерениях, если эти намерения не соответствуют ожидаемым данным. Они не умные, просто умные.
Так как же заставить умных ботов и искусственный интеллект, например Prime Intellect, интерпретировать и понимать человеческие намерения так, как это делают люди? Это грандиозная проблема (и нет, я не знаю, как ее решить), но если мы хотим общаться с этими ботами и личными помощниками, которые появляются в нашей жизни, мы должны ее решить. И я думаю, что мы значительно продвинулись в общении с машинами двумя способами. Один из них очевиден, а другой довольно удивителен.
Самый очевидный: компьютеры становятся все лучше и лучше думают, как люди.
Благодаря доступу к необработанной вычислительной мощности и умной разработке программного обеспечения (спасибо людям!) Мы научили компьютеры более сочувствовать тому, как мы думаем и говорим, а также способам передачи информации. Один из способов проиллюстрировать это - взглянуть на приблизительное продвижение обратной связи по компьютерным ошибкам, которое мы считаем приемлемым:
Нулевой уровень: без обратной связи
Перевод: Нет вывода, люди могут только предполагать, что что-то пошло не так.
Либо из-за недостатка сочувствия, либо из-за отсутствия технической осуществимости, эта машина не общается таким образом, который полезен для людей.
Уровень Первый: минимум отзывов
Перевод: Что-то пошло не так, и компьютер был очень внимателен и сообщил об этом пользователю.
Мы не знаем точно, что пошло не так, но приятно принять участие в разговоре.
Уровень Второй: диагностическая обратная связь
Перевод: «Я не понимаю, что вы говорите, поэтому ничем не могу вам помочь».
Это настоящий прогресс. Компьютер конкретен и сообщает нам, что ошибка не в самой программе, а что он просто не распознал наши входные данные. Как задумчиво!
Уровень третий: умная обратная связь
Перевод: «Я понимаю ваше намерение, но не могу помочь вам с этим конкретным запросом».
Это примерно то, где мы находимся сегодня. Компьютер правильно интерпретировал наше намерение, несмотря на некоторый синтаксический шум, и говорит нам, что, хотя наше намерение разумно, он не способен связать это намерение с идеальным результатом.
Четвертый уровень: интеллектуальная обратная связь
Перевод: «Я понимаю ваше намерение и изменил свои способности, чтобы выполнить вашу просьбу».
Это тот уровень, который, я думаю, мы бы назвали искусственным интеллектом. Компьютер понял наши намерения на довольно фундаментальном уровне, осознал, что он не способен выполнить наш запрос, и на основе этих знаний улучшил себя, чтобы удовлетворить наши потребности.
Уровень пятый: ужас
«Я изменил вселенную в соответствии с вашими намерениями».
Это ужасающая территория Первого Интеллекта. Я не буду вдаваться в подробности, но если вам интересно, я рекомендую прочитать научно-фантастические рассказы, такие как Метаморфоза Prime Intellect.
Достижения в области обработки естественного языка означают, что машинам легче выявлять намерения из наших запросов, а также они более внимательны к ответной связи с нами. Наше желание научить машины говорить и вести себя больше, чем мы, неудивительно, что удивительно, так это то, что люди пошли навстречу компьютерам.
Самое удивительное: люди стали лучше машинное мышление.
Когда мы впервые столкнулись с проблемой общения с машинами, мы сразу же воспользовались преимуществами нашего чуткого, адаптивного мозга, выбросили английский в мусор и решили общаться, как компьютеры.
Командные строки кажутся хорошей стратегией для встречи с машинами на полпути, но мы все еще делаем много работы, когда дело доходит до воплощения человеческой мысли. Хотя это напоминает английский, это не человеческая речь:
Помните Спросите Дживса? Это давало возможность использовать иллюзию разговора с чем-то, что могло понимать человеческую речь, что побуждало нас писать сообщения, основанные на том, что имело смысл для людей, а не на том, что было наиболее полезно для компьютера. Это было запутанным развлечением и не очень чутким способом общения с программным обеспечением.
Но посмотрите, как далеко мы продвинулись с тех пор, чтобы встретить компьютеры на полпути:
Написанные человеком данные, такие как «руководство по стилю цитирования« онлайн-лаборатория письма »APA OR MLA side: edu», показывают прогресс, которого мы достигли в обучении сообщать о наших намерениях машинам. Мы научились отделять содержание наших запросов от английского шума и думать о запросах как о командах, которые нужно обработать, а не о вопросах, на которые нужно ответить. Ежедневное общение с компьютерами научило нас многому, как с ними разговаривать, но я думаю, что мы также многое узнали о взаимодействии с программами, общаясь с другими людьми.
Современные платформы для общения с другими людьми помогли нам научиться понимать проблемы машинного общения и интерпретации. Общение с помощью текстовых сообщений и электронной почты на собственном опыте продемонстрировало нам боль от попытки вычислить намерение на основе ввода без контекста (см. Изображение).
Теперь, когда мы можем отправлять эти короткие запросы кому угодно, в любом месте мгновенно и без четкого контекста, мы понимаем, насколько сложно может быть точно определить цель плохо продуманного сообщения. Мы научились быть более краткими, менее повторяющимися, адекватно контекстуальными и ориентированными на результат. Те же соображения лежат в основе лучших практик диалоговых интерфейсов.
В нынешнем увлечении ботами мне кажется поразительным то, что наше взаимодействие с ними, похоже, основывается на взаимопонимании между людьми и машинами, над которым мы работали до этого момента. Боты - это форма взаимодействия человека с компьютером, которая использует преимущества этого перекрестка, снимая вычислительную нагрузку с человеческого мозга и снимая законное напряжение в дизайне интерфейса. История наших отношений - это то, что позволяет ботам работать, несмотря на то, что они только умны, но не настолько умны.
Долгосрочная цель - разработать программное обеспечение, выходящее за рамки умного. Мы хотим, чтобы программное обеспечение было достаточно умным, чтобы обнаруживать основные намерения в человеческом общении, но не настолько умным, чтобы экстраполировать наши намерения в неожиданные - потенциально катастрофические - результаты. На данный момент я действительно впечатлен тем, как мы изменили способ общения с машинами, чтобы преодолеть эту коммуникационную проблему. Это многое говорит о человеческом сочувствии и адаптируемости, что мы можем сделать искусственный интеллект ботов похожим на искусственный интеллект, и я думаю, что это было действительно приятно для людей.
Я надеюсь, что искусственный интеллект будущего будет таким сострадательным.
