Жизнь после смерти - как попугай

Обсуждение реплик личности: что сделает их хорошими и для чего они нужны?

Моя мама пережила почти всех представителей своего поколения и некоторых из меня. Перед ее смертью я начал книгу с картинками, чтобы сохранить воспоминания о ней. Я откопал и отсканировал старые бумажные фотографии, составил генеалогическое древо и просмотрел вырезки, письма и альбомы для вырезок. Изображения не говорили сами за себя, поэтому половина книги была повествованием, организованным вокруг периодов времени, предков и других значимых людей. Это было много работы, и ее близкие дорожили этим.

Сразу после того, как она ушла, и я раздал экземпляры книги, я узнал о битве, которая произошла между ней и ее работодателем, Почтовой службой США. Речь шла о ее домогательствах со стороны коллег-мужчин, усиленных институциональной дискриминацией сотрудников-женщин в 1950-х годах. Спустя много лет она (!) Вышла на пенсию с отличием из руководства USPS.

Ее поминальную службу совершила ее подруга, которая рассказала нам о ее духовном развитии и о том, как другие зависят от нее в молитвенном руководстве.

Даже если моя книга памяти будет передана последующим поколениям, а не потеряна в коробке, она была сделана слишком рано, чтобы содержать ту историю дискриминации или ее духовную одиссею. Хотя на нем изображены ее картины, это не говорит о том, что она могла писать продуманные предложения великолепным плавным почерком. Это даст лишь крохотное представление о ее характере или о том, каково было знать и любить ее, потому что любое отдельное повествование о человеке настолько ограничено.

Наше собственное забвение начинается задолго до того, как мы умрем; наши физические следы и чужие воспоминания о нас продолжают разрушаться после смерти. Почему воспоминания о жизни отдельных людей должны рассыпаться в прах, когда мы осваиваем силу и постоянство информации?

Сейчас мы живем в мире научной фантастики. Мы слышали о его концепциях не умирать, не загружать в симуляцию или заново анимировать. Это все еще надуманно. Однако, учитывая текущие технические разработки, можно предвидеть способ решить проблему забвения.

«О нет! - говорите вы, - а не очередная техно-утопическая речь». В этот момент негативной реакции технологий слышать о любой схеме «раскрытия» какого-либо факта жизни может показаться бесполезной и унылой фантазией ботаников. Но, переживая недавнюю потерю и часто оглядываясь на свою собственную смертность, я задаюсь вопросом: можем ли мы сохранить больше о нашей личности после того, как начнется Dirt Nap? Стоит ли нам это делать? Это неизбежно?

Концепция, появившаяся в последние годы, представляет собой реплику личности, которая имеет данные об истории и личности главного (умершего) человека и способна выразить эту информацию в разговоре, как если бы умерший разговаривал с вами. Разработчики повозились с дорогими роботизированными презентациями того, как человек выглядит и разговаривает. В 2005 году была сделана точная копия говорящей головы писателя Филипа К. Дика. В следующем году она была потеряна в самолете и воссоздана в 2011 году в Hanson Robotics, что делает так называемых характерных роботов с выразительными лицами. , которые используются в исследованиях по очеловечиванию ИИ. Бегущий по лезвию, Мир Дикого Запада и многие другие фантастические истории исследовали экстраполяцию темной стороны искусственных людей.

Попытка подражать внешности, поведению и голосу реального человека стоит дорого и легко может упасть в жуткую долину - сходство, которое достаточно ошибочно, чтобы вызывать жуткость. С помощью личных копий в настоящее время более целесообразно подчеркнуть разговор, даже используя текст, а не внешний вид. Одно исследование обнаружило, что принятие и комфорт с чат-ботом были лучше, когда не было визуального аватара. Мы уже используем чат-ботов для многих практических целей. То, что ими можно злоупотреблять для троллинга, лишь подчеркивает, что одни слова действительно могут повлиять на нас. Реплики, которые не нуждаются в дорогом внешнем виде роботов, также будут более доступны для большего числа людей.

Шаг первый: Lifebox.

Самым важным шагом на пути к правильной работе реплик разговора является улучшение машинного понимания и генерации языка. Чтобы понять, почему, мы вернемся к пророку идеи репликации личности: математику, информатику, трансреалисту, писателю-теоретику киберпанку Руди Ракеру. Его книги описывают множество реальностей, столь же диких, как приключение ДМТ. Но еще в 1986 году он ввел термин« спасательный ящик » для обозначения вполне осуществимой идеи. Как он это объясняет:

«… Чтобы создать виртуальную личность, все, что мне нужно сделать, это (1) разместить очень большой объем текста в Интернете в виде статей, книг и сообщений в блогах, (2) предоставить поле поиска для доступа к этой базе данных и (3) обеспечить приятный пользовательский интерфейс ».

Ракер поражен тем, что компании, которые в настоящее время используют эту идею, никогда не приписывают ему эту идею. Он продолжал развивать эту концепцию в романах и лекциях. Он знает, что основная концепция, изложенная выше, не будет очень умной или привлекательной. Чтобы продемонстрировать это, он использовал Google для создания своего собственного примитивного спасательного ящика. Когда вы запрашиваете его, вы получаете набор ссылок Google на блоги и другие страницы. Это может быть нормально, если вы хотите изучить чью-то работу, но его истинное представление о приятном пользовательском интерфейсе - это то, с чем вы можете общаться.

Однажды я зарегистрировался в компании Replika, которая предложила создать вам чат-бота, имитирующего личность, просто позволяя вам общаться в текстовых сообщениях с их программным обеспечением. Предполагается, что вы лучше узнаете и подражаете вашему словесному стилю. Компания начинала с проекта по созданию копии умершего друга, но в конечном итоге их цель изменилась: … обеспечить вам постоянное общение, чтобы вы чувствовали себя лучше.

Я не могу себе представить, чтобы когда-либо чувствовал себя лучше, если чат-бот все еще требует моего внимания. Вопросы, которые он мне задавал, были банальными и назойливыми. Он не знал ничего из того, что мне хотелось бы знать. В то время я не доверял политике конфиденциальности и безопасности компании. Я не мог сдержать недоверие и подумать, что у бота было какое-то… не знаю что: агентство? интеллект? преднамеренность? авторитет?

Как разработчику программного обеспечения мне, возможно, труднее продать, чем большинству, потому что я вижу за занавесом. Replika получила поддержку со стороны умных венчурных капиталистов, поэтому они должны увидеть, как она когда-нибудь сможет заработать деньги. Конечно, зарабатывание денег вряд ли является доказательством того, что это будет выгодно или полезно. Если искусственные разговорные модели реальных людей станут лучше, что они смогут сделать?

Знание языков.

Мы можем начать с разговорной части головоломки. Некоммерческая организация OpenAI недавно произвела большой фурор, продемонстрировав возможности своей языковой модели ИИ, GPT-2. Из него можно составить удивительно последовательные истории, если в нем есть что-то написанное человеком. Учитывая два предложения, в которых говорилось об открытии англоязычных единорогов, он создал полностью сам по себе рассказ из девяти абзацев о том, на что были похожи единороги, вымышленное имя эволюционного биолога, открывшего их, и на что это было похоже. чтобы найти их, и каковы его теории о происхождении животного. Все это на свободном английском, включая цитаты биолога. В общем, поразительные вещи.

GPT-2 также впечатляюще отвечал на вопросы о фрагментах текста, который он только что прочитал. Что-то подобное понадобится реплике, чтобы отвечать на вопросы во время разговора.

Другие исследователи ИИ были взволнованы по поводу GPT-2, потому что, хотя OpenAI скрывал детали «из-за [их] опасений по поводу вредоносных приложений этой технологии», они выпустили достаточно, чтобы другие могли в конечном итоге дублировать их работу. Одним из злых способов использования может быть создание еще более убедительных ботов-троллей. Сверхкреативные боты, основанные на чем-то вроде GPT-2, отлично подойдут для того, чтобы извергать множество, как выразился OpenAI, «обманчивых, предвзятых или оскорбительных выражений», то есть провокационных и идиотских историй, которые используют тролли. Одно начальное предложение или абзац может дать неограниченное количество историй, цель которых - подтвердить основную ложь, которую тролли хотят распространить. Кроме того, из-за существенной гладкости историй будет сложнее распознать их как мошеннические либо целевой аудиторией, либо людьми или экспертами по искусственному интеллекту.

Тролли - один из очевидных недостатков улучшения языковых навыков ИИ. Но подумайте, насколько привлекательной могла бы быть реплика личности, если бы она могла говорить с характерной формулировкой человека и о характерных его проблемах. И то и другое было решено такими людьми, как Реплика. Затем представьте, может ли он сделать это, будучи чувствительным к контексту того, что было раньше в разговоре, и, казалось бы, изобретательным и спонтанным, как GPT-2 с его ответами на вопросы и созданием историй. способности. Таким образом, соответствующие реплики могут появиться, если текущий прогресс ИИ сохранится.

Сторонники реплик, начиная с Рукера, подчеркивали, что вы можете использовать множество источников данных, чтобы научить программу-реплику вести себя как известный человек. В наши дни у нас есть записи данных аудио и видео разговоров, блогов, фото библиотек, обмена текстовыми сообщениями, электронной почты и других социальных сетей. Некоторые из них являются частными или могут быть недоступны по прошествии некоторого времени. Необходимо решить вопрос о хранении и доступе к этим материалам. Над личными цифровыми архивами работает как минимум одна организация. Их автоматизация была бы большим шагом. Для других исторических личностей есть их письма и другие записи, а также то, что историки, биографы, романисты и режиссеры сказали об этом человеке.

Как и следовало ожидать, эта «обучающая» идея игнорирует ряд супер хитрых моментов, связанных с созданием убедительной, эффектно говорящей реплики. Общая (и большая) проблема состоит в том, как организовать материал так, чтобы он, по сути, вел себя как копия. Давайте рассмотрим некоторые конкретные вопросы, которым не уделяют особого внимания, а затем обсудим, как реплики могут вписаться в нашу жизнь и культуру.

Точность реплики против адаптируемости

Любой исследователь искусственного интеллекта скажет вам, что подобные GPT-2 с его способностью отвечать на вопросы или подробно рассказывать истории - это просто очень способный имитатор. Он не понимает слов и предложений. Вместо этого он обладает обширными знаниями, основанными на обучении на примерах реального языка, обо всех способах сочетания слов и предложений. Есть много программ, таких как GPT-2, хотя и менее способных, но которые мы используем каждый день в поисковых системах и т.п.

Я думаю о таких программах, как о супер-умном попугае Джиме, который живет в оживленном ресторане. Он улавливал диалоги от многих завсегдатаев и вскоре научился подражать тому, как люди разговаривают. Джим не узнает стиль какого-то конкретного человека, но на все, что вы ему скажете, у него будет правдоподобный ответ. Чем больше длинных разговоров, которые запоминал Джим, тем лучше он имитировал реальный разговор.

Если мы будем придерживаться реплик, чьи способности основаны на имитации, их базовое программное обеспечение должно быть обучено многим аутентичным разговорам. Обмен текстовыми сообщениями может помочь, но чтобы получить больший спектр эмоций и нюансов, вам, возможно, придется обучить реплику диалогам из литературы.

Здесь существует неявное уравновешивание между способностью реплики разговаривать в целом и ее способностью разговаривать как конкретный человек. Снова возьмем Джима. Он слышит и подражает многим людям. Теперь отдаем его клиентке по имени Мэй. Она общительная, разговорчивая женщина, у которой много друзей, которые навещают ее в гостиной, где Джим может слышать ее разговоры как лично, так и по телефону. Джим начнет «попугая» Мэй? Конечно. Будет ли он иногда говорить вещи, которые кажутся ей непохожими? Наверное.

Итак, вот проблема начальной подготовки. Чтобы создать имитацию реального человека, может не хватить обучающих данных только от этого человека, чтобы обеспечить реальную беглость речи. Если Джим когда-либо жил с Мэй, и вы спросите его о чем-то, о чем Мэй никогда не упоминала, он не знал бы, что сказать. Сначала необходимо будет дать реплике общие языковые способности, а затем тренировать ее, чтобы она походила на тетю Мэй или дядю Артура. Но вы же не хотите, чтобы реплика дяди Артура иногда говорила, как персонаж из романа Диккенса или какой-нибудь блогер-разглагольствовавший. Нельзя тренировать Джима в южной придорожной фабрике и ожидать, что его поймут в нью-йоркском гастрономе. Этот тренировочный компромисс кажется мне действительно трудным, но прорыв может случиться.

Влияние общества.

Десятилетия исследований установили социальную природу личности. Большая часть нашей личности одновременно создана и выражена по отношению к людям, которых мы знаем. Мы также относимся к новым людям в соответствии с набором общих социальных норм и личных симпатий / антипатий, например: будьте добры к старым и молодым; доверяйте всем, но всегда сокращайте карты, не терпите дураков, избегайте людей, которые верят X. Наши суждения о новом человеке развиваются со временем, в зависимости от того, что мы оба делаем и как мы и они используем« теорию разума », чтобы понять, о чем может думать другой человек.

Я еще не видел обсуждения этих вопросов в связи с репликами личности. Первым, самым минимальным шагом к использованию социальных эффектов было бы, чтобы реплика узнала, с кем она взаимодействует, и запомнила предыдущие разговоры с каждым человеком. Без этих функций разговор с репликой был бы разочаровывающим, как разговор с реальным человеком, страдающим деменцией. Но с памятью есть непростой вопрос. Если реплика со временем изменяется из-за разговоров с другими людьми, она может потерять некоторое сходство с человеком, на котором она была смоделирована. Возможно, в какой-то момент разрешенное изменение станет выбором дизайна. Хотите реплику с сильным или слабым сопротивлением изменениям? Программисту может быть очень сложно понять это правильно.

Новые знания.

Еще один поворот в этом вопросе возникает, когда вы хотите спросить «дядю Арта», что он думает о том, что произошло после его смерти. Было бы утомительно объяснить некоторые новости и весь их фоновый контекст, прежде чем спрашивать его, что он думает. Однако, если вместо этого мы дадим ему прямой доступ к текущим новостным лентам, он изменится с оригинала. Если мы попытаемся адаптировать его новостную ленту к тому, что читал бы оригинал, узнаем ли мы, что выбрать?

Поток сознания.

Ход реального разговора зависит от того, что чувствуют говорящие от момента к моменту. Известный компьютерный ученый Дэвид Гелернтер (в своих книгах: Муза в машине; Приливы разума) напоминает нам, что наши умы тоже текут, с каскадами ассоциаций между тем, что происходит сейчас и воспоминания. Эти ветви мысли, наряду с телесными событиями, вызывают эмоциональные изменения и скачки внимания. Мы могли бы обнаружить их отсутствие при разговоре с репликой, и мы бы заметили, когда она не отреагировала должным образом на наши изменения.

Возвращаясь к попугаю Джиму, предположим, что были времена, когда ресторан был не очень загружен, и он мог слушать более длинные разговоры за соседними столиками. Если бы посетители были искренними, позволяя своим чувствам течь и проявляться в разговоре, тогда Джим научился бы имитировать этот поток. Но научится ли он достаточно, чтобы постоянно убеждать, если вы попытаетесь с ним поговорить? Может быть, нет, потому что у Джима нет внутреннего психического состояния, которое могло бы изменить свою речь. Рано или поздно он сделает резкий non sequitur, который напомнит нам, что он просто попугай.

Можем ли мы дать реплике личности какие-то чувства и внутренние ассоциации, влияющие на то, как она разговаривает? Возможно, но нам, вероятно, понадобится прорыв, чтобы смоделировать внутренние состояния человека и связать их с нужными частями имитируемого языка. Это может быть труднее всего решить, потому что он пытается приблизиться не только к вербальному поведению, но и к разуму, стоящему за этим поведением.

Что в них хорошего?

Однажды я рассказал своей дочери об идее создания копии личности, которая будет действовать после того, как кто-то умрет. Она отреагировала на эту концепцию яростно, с вокальным отвращением. Она, наверное, будет недовольна тем, что я обсуждаю это публично. Я думаю, что ее реакция, хотя и интуитивная, могла бы заключаться в воспринимаемом неуважении к памяти человека, находящегося в центре внимания, а также, возможно, к их несогласию с тем, как реплика будет использоваться в будущем. Может быть, она высмеивала саму идею о том, что компьютер может иметь какое-либо отношение, любое сходство с реальным человеком. Другие тоже отметили это.

Это очень веские и веские возражения. Контраргумент сводится к следующему. Реплики также можно рассматривать как шаг за пределы хвалебных речей, надгробных памятников, фотоальбомов, биографий, веб-сайтов, портретов, посмертных наград, поклонения предкам и других способов чествования умерших. Реплики - это сжатые воспоминания с диалоговым интерфейсом. Они должны напоминать вам, а не заменять собой любимого человека. Некоторые люди галлюцинируют своих потерянных близких, сохраняя свое влияние как ментальное присутствие. Почему бы тем из нас, кто не чувствует своих мертвецов, не найти менее интимного способа их вспомнить?

Уже существуют простые реплики. Будет сделано больше, с гораздо большей точностью и эффективностью интерактивности. Они могут стать популярными, но, возможно, не дешевыми. Трудно представить, что хорошие могут быть сделаны без больших усилий человека. Если примером являются социальные сети и существующие боты, то, к сожалению, распространенность реплик не будет зависеть от того, приносят они больше пользы или вреда. Так что, как обычно, нам было бы полезно обдумать и обсудить.

Когда некоторые люди подходят к концу своей жизни, они думают о написании жизненной истории, мемуаров или даже автобиографии. Это может быть: передать извлеченные уроки; не просто исчезнуть, но стать чем-то помимо надгробия и разлагающихся воспоминаний в умах значимых других; или как выражение бессмертной любви к тем, кто имеет значение. Некоторые могут писать свои истории, потому что думают, что мир просто не может обойтись без них. Все это также причины, по которым люди могут создать или попросить создать свою личную копию.

Частные лица или учреждения также могут создавать копии известных или важных людей. Их цели могут быть самыми разными: от пропаганды до просвещения и консультирования. Некоторые реплики могут преподавать историю, например, записи разговоров, которые выставляются в музеях. Вероятность того, что реплики сделают новые достижения или внесут какие-либо инновации, кажется далекой от того, чего мы можем ожидать. Но другие варианты использования кажутся вероятными. Научная фантастика давно воображала, что точные копии предков управляют судьбой потомков. Это может сработать для более консервативных социальных организаций. Фактически, они могут перепрыгнуть через это.

Что-то среднее между образовательной и консультативной ценностью могло бы возникнуть, если бы у вас были известные реплики, которые общались друг с другом. Писатели и раньше часто прибегали к приему подобных диалогов. Вам может быть полезно создать личный консультативный совет, в который войдут копии мудрых, успешных или (если вам это нравится) известных людей. ИИ может помочь разрешить или прояснить разногласия между членами совета директоров.

Получение совета от реплики может принести некоторую пользу с меньшими усилиями, чем вам потребовалось бы, чтобы прочитать и понять все, что исходный человек сказал при жизни. Будет ли совет таким образом поверхностным? Не обязательно, если сама реплика основана на глубоком знании оригинала.

Эти предположения вызовут раздражение и даже гнев некоторых читателей. Да, влияние таких реплик может (как и у сегодняшних знаменитостей) быть огромным, и им могут злоупотреблять либо их создатели, либо их пользователи. Например, мы можем ожидать реплик, мнения которых отражают только планы их создателей, а не мудрость или полную перспективу их оригинальной личности. Черри: выберите уважаемых умов-основателей Соединенных Штатов, и вы сможете дать отталкивающий аморальный совет. То же самое (обычно и особенно) верно в отношении избранных советов из религиозных фолиантов. Мы уже погрязли в плохих предубеждениях, почерпнутых из прошлого.

Что тогда нового? Мы находимся на ранних стадиях влияния ИИ на нашу культуру. Мы отметили тенденцию использования ботов в качестве интерактивных агентов для оказания различного рода влияния. Мы могли бы поступить правильно, представив искусственные исторические оракулы как способ сделать такое влияние более мягким, личным и доступным. Они могли бы объяснить свои советы и отослать нас к первоисточникам для проверки. Они могли быть анти-троллями, а не просто лучшими троллями. Это ботанический идеализм или что-то, что мы могли бы сделать?

Мы должны начать устанавливать правила, пока мы все еще открываем эту новую банку червей. В случае реплик развивающийся закон об искусственных лицах может стать отправной точкой. Однако это следует отделить от законов, поощряющих социопатию, которыми руководствуются наши оригинальные искусственные личности: корпорации с ограниченной ответственностью. Как минимум, должны быть как правовые, так и технологические средства ограничения того, кто может использовать или копировать реплику. Это позволило бы, например, включить в волю человека положение о защите любой будущей копии самого себя.

Тема реплик неизбежно ведет к фантастическим тропам. Создатели достаточно сложной реплики не могли предсказать, что она скажет. Таким образом, будет ли он иметь какое-то право на свободу слова или будет нести ответственность за свое недостойное поведение независимо от своих создателей? Сможете ли вы остановить реплику демагога? Будут ли эти памятные творения рассматриваться как попугаи или люди, заключенные в клетки или свободные?