Может ли машина сформулировать диссертацию?
Аргумент в пользу проверенных людей (Часть III)
Примечание. Хотя эта статья написана как серия из пяти частей, нет необходимости читать каждую часть по порядку или все части, поскольку каждая часть была написана как отдельная часть.
Вступление
Во второй части этой серии (ссылка ниже), вдохновленная цитатой из руководства под названием Deep Learning with PyTorch (далее ниже), я исследовал изменяющуюся природу общения с человеческим языком, чтобы создать предложения для (1) проверенные люди на платформах социальных сетей и (2) прозрачность в отношении использования языковых моделей для генерации текста.
В этой статье, чтобы ответить на главный вопрос, я буду обсуждать (1) вопрос о механических желаниях, (2) этическую сложность алгоритмического генерирования последовательного мировоззрения и (3) последствия пунктов (1) и (2). о способности алгоритма формировать диссертацию.
«… За этим бессвязным тезисом нет четко сформулированного тезиса».
Вышеупомянутый подзаголовок (из вышеупомянутой цитаты) может звучать так, как будто он был либо скопирован из язвительно педантичного обзора Goodreads бестселлера, но тусклого переворачивания страниц, либо нацарапан красным на дважды переписанной английской статье AP на английском языке Эрнеста Хемингуэя на прощание с Эрнестом Хемингуэем. Оружие, но не позволяйте этому обмануть вас, думая, что тексты, сгенерированные компьютером, и человеческое письмо не так уж сильно отличаются, потому что они есть, и в основном так.
Компьютеры и люди, конечно, сопоставлены, поскольку мы, люди, хотим видеть свое сходство, отраженное в наших самых блестящих технологиях, таких как гордые родители предполагаемых вундеркиндов (или как мы, люди, иногда любим представлять себя образом высшая сила по нашему выбору). Но даже несмотря на это, люди и компьютеры как создатель и творение очень различны и останутся таковыми, даже если перестанут существовать ощутимые различия между человеческим интеллектом и искусственным интеллектом просто потому, что люди и компьютеры не своего рода, как компьютеры не и не могут быть людьми. (Прошу прощения, если это звучит ужасно очевидным - или мании величия - но я работаю над более интересным моментом.)
Как я обсуждал в предыдущей статье, если рассматривать их как объекты, которые обрабатывают входные данные и производят выходные данные, основные существенные различия между людьми и компьютерами, помимо скучных сенсорных вещей, таких как вкус и внешний вид, часто заключаются в семантике абстрактных понятий, таких как сознание, интеллект и душевность (что тоже довольно скучно, но в более философском смысле). Другими словами, основные различия заключаются в том, как люди используют человеческий язык для обсуждения и установления дистанции между собой и другими своими творениями.
Хотя различия между создателем и творением, безусловно, можно аргументировать в терминах определенных создателем концепций, таких как сознание и др., Либо путем выделения коннотативных аспектов концепций, либо путем предложения врожденных Форм, которые могут быть реализованы создателем, но не посредством творения, Я считаю, что настоящие различия больше связаны с желанием - и не в способности желать, нет, поскольку это та же скучная баночка слов, описанная выше, а скорее в гуманистической перспективе, обычно используемой в этом · Эпоха po · cene, которая ставит желания людей выше желаний всех других существ, будь то биологические или вычислительные. В частности, в то время как можно сказать, что у машин есть желания, в зависимости от того, что это означает «желание», нельзя сказать, что у машин есть человеческие желания, просто потому, что они нечеловеческие.
В заключительном разделе я остановлюсь на важности антропоцентризма человеческих желаний, но сначала давайте рассмотрим желание подробнее.
Возникновение (или отказ) механических желаний
Человеческие желания, хотя и не до конца поняты, по-видимому, в первую очередь обусловлены взаимодействиями между нейротрансмиттерами, которые, хотя и являются сложными, могут быть воспроизведены с помощью машины и алгоритмов (при условии необходимого прогресса в технологиях). Однако в целом люди считают себя, но не компьютеры, автономными существами, которые действуют по свободной воле, а не по детерминированным псевдоприхотям (или какой-то подобной, более легко секуляризованной доктрине). Другими словами, похоже, существует нежелание номинально наделить машины способностью желать, так как желание человека имеет слишком большое значение от первого лица, чтобы его можно было объединить с имитируемым процессом .
Если допустить, что такое отсутствие интереса к номинальной конференции существует, вполне возможно, что оно имеет корни в очевидной управляемости механизмов, используемых для создания механических желаний, где желание здесь сводится к причине следствия. В частности, поскольку компьютеры спроектированы и запрограммированы людьми, механизмы, лежащие в основе принятия вычислительных решений, не полностью скрыты, даже если они происходят внутри черного ящика. (Эта тема более подробно обсуждается в Части I этой серии.) Следовательно, эффекты, производимые машинами, можно объективно рассматривать как полностью зависящие от человеческих ресурсов, поскольку машина не может обрабатывать информацию, если она не получает инструкции от человека, просто как часы не могли бы тикать, если бы не часовщик.
Примечательно, однако, что эта зависимость машины от создателей-людей отражается и в человеческой системе. В частности, хотя человеческая система менее управляема, чем механическая система, реакции (то есть поведение) человеческой системы зависят от конструкции (то есть генетики) ее создателей (то есть ma и pa) и данных ( например, опыт, факторы окружающей среды), используемые для программирования (т.е. обучения) человеческого мозга. Итак, если предположить, что желания человека основаны на мировоззрении этого человека, которое основано на сложном коктейле нейротрансмиттеров, основанном на уникальных характеристиках человеческой системы, производящей желания, нет реальной причины, по которой нельзя сказать, что компьютер желает, Что касается желания, компьютер должен быть в состоянии сделать немного больше, чем принять решение действовать, основываясь на определенных предпочтениях и принципах, составляющих его мировоззрение.
Во многих случаях, таких как простые производственные настройки, желание машины (если это можно так назвать) может заключаться в выполнении одного и того же действия со статической скоростью в течение установленного периода, и, предполагая, что механизмы автоматической обратной связи не используются, машина не работает. бесплатно делать многое другое. Таким образом, в таких приложениях можно сказать, что желание машины отражает желание человека-хозяина, которое, в данном случае, состоит в том, чтобы многократно выполнять какое-то действие. Однако, как обсуждается в следующем разделе, для автоматизации задач, связанных с человеческим языком, особенно тех, которые требуют формулирования тезиса при выполнении людьми, компьютер должен иметь больше свободы реагировать на вводимые данные, чем система массового производства, и, следовательно, он должен быть в состоянии развить более тонкое мировоззрение, что невероятно проблематично, учитывая, что программисты по-прежнему обязаны предоставлять материалы, из которых компьютер должен учиться.
Увы, с помощью своих алгоритмов компьютеры могут планировать свой курс, но люди определяют свои шаги. (~ Притчи 16: 9)
Машинное обучение: перспективы развития
Кажется бесполезным ожидать осмысленного языка от машины, которая никогда не сталкивалась с чувственным миром, к которому относится язык2.
Я не верю, что мимикрия человеческого мозга должна быть де-факто целью компьютерных исследований, как человеческий мозг с его склонностью к определенным типам предубеждений, хотя, возможно, относительно оптимальным для человека, в путь локального минимума, который неотделим от эволюционного контекста человека, не обязательно является глобально оптимальным подходом к обучению или обработке информации - особенно для существ, которые не слишком озабочены своей собственной смертностью, например небиологических технологий. Но независимо от того, должен ли служить человеческий мозг в качестве модели для дальнейших вычислительных исследований, давайте теперь, в качестве средства исследования, предположим, что компьютер можно построить и запрограммировать так, чтобы он идеально имитировал человеческий мозг в отношении его способности к обучению. На этом примере мы исследуем этические трудности алгоритмического создания мировоззрения, задача, которую я позже буду утверждать, необходима для формирования диссертации.
В этом примере, в дополнение к способности к обучению, эквивалентной человеческому эквиваленту, предположим, что наша машина имеет возможности обработки и хранения информации, которые намного превосходят возможности людей. Кроме того, хотя у него нет сенсорных входов или способности воспринимать физический мир в реальном времени, он имеет доступ ко всему тексту, доступному в Интернете. Другими словами, по сравнению с человеком, наша машина неограниченна с точки зрения возможностей обработки и хранения, ограничена с точки зрения реального опыта и эквивалент с точки зрения обучаемости. (Другими словами, если не считать способности к обучению, наш компьютер не так уж отличается от современной компьютерной парадигмы.)
(Между тем, хотя эти спецификации могут показаться противоречивыми, поскольку машина, которая может лучше обрабатывать и хранить информацию по сравнению с человеком, может показаться, что способность к обучению отличается от человека, давайте предположим, что независимо от объема информации компьютер должен по-прежнему учиться на информации, как это сделал бы человек, т. е. вынося суждения в контексте другой информации, предполагая, что человек обладает такими же способностями.)
Затем я хотел бы изучить два возможных результата нашего эксперимента: на основе данной информации компьютер может либо (1) сформировать среднее мировоззрение, которого придерживается большинство, либо (2) найти лежащее в основе фундаментальное мировоззрение. Я не буду исследовать возможность того, что компьютер полностью ошибается и дает бессмысленные результаты, поскольку этот случай неинтересен, но я исследую скрытый вариант, в котором (3) данные источники текста взвешиваются, чтобы убедить компьютер придерживаться целенаправленно выбранных позиции. (Обратите внимание, что в каждом из приведенных ниже случаев, когда я говорю, что компьютер поддерживает представление и т. Д., Я имею в виду только то, что при появлении запроса компьютер может выдавать текст, соответствующий определенной перспективе.)
Среднее мировоззрение
Теоретически машина с доступом к таким огромным объемам текстовой информации и способностью к обучению, как у человека, должна уметь рассматривать информацию как основу для формирования мировоззрения. Однако важно помнить, что в нашем примере у машины нет возможности учиться на взаимодействиях в реальном мире способом, подобным человеческому опыту, то есть компьютер не имеет модели реальности. Таким образом, машина похожа на человека, который заперт в комнате, где есть только подключение к Интернету. (В качестве мысленного эксперимента подумайте, как может измениться мировоззрение человека, если он окажется изолированным в такой ситуации.)
Учитывая вышеизложенное, при ответе на ввод наша машина может перефразировать любую релевантную информацию, которая наиболее заметна в обучающих данных. (Если мы рассмотрим в качестве примера известную геоцентрическую модель Вселенной докоперниканской эпохи, тогда станет ясно, что этот метод формирования мировоззрения ошибочен.) Более того, поскольку компьютер не имеет реалистичного представления о мире мире, он может противоречить самому себе - принимая одно общепринятое убеждение при составлении текстов с одной точки зрения, а затем придерживаясь другого убеждения, когда задают дополнительный вопрос. Следовательно, даже если машина может обрабатывать и хранить гораздо больше информации, чем любой человек, поскольку она не может сравнивать эту информацию с реальным миром при вынесении суждений, она, скорее всего, сформировала бы нереалистичное представление о мире.
Основная правда
В отличие от вышеупомянутого случая, в котором предполагается, что компьютер просматривает всю имеющуюся у него информацию и выносит суждение, которое отражает наиболее распространенные убеждения, давайте рассмотрим возможность того, что компьютер просматривает всю имеющуюся информацию, чтобы раскрыть фундаментальные проблемы. Законы Вселенной. Другими словами, из разрозненных убеждений людей компьютер находит основную истину, даже если правда непопулярна.
Этот случай, хотя и оптимистичный, кажется маловероятным для компьютера, не имеющего сенсорных входов для моделирования реальности. Например, давайте предположим, что в настоящее время человеческое общество совершенно неверно относительно некоторой общепринятой истины, такой как дневное небо в безоблачный день кажется голубым (или, в качестве альтернативы, рассмотрим ту истину, которую вы считаете наиболее верной). В случае широко распространенного, но ошибочного человеческого убеждения, учитывая только тексты, созданные человеком, маловероятно, что компьютер - даже если ему предоставлен доступ ко всей человеческой литературе - мог бы извлечь правду из человеческих предубеждений. Следовательно, как и в вышеупомянутом случае, большинство, скорее всего, займет машина.
В качестве альтернативы давайте рассмотрим, что вместо того, чтобы человеческое общество полностью ошибалось в отношении фундаментальной истины, данная истина известна, но лишь небольшому числу узкоспециализированных людей. В этом случае, чтобы найти истину, компьютер должен иметь возможность взвешивать источники, чтобы учесть меньшинство истинной информации среди множества дезинформации. Хотя можно было предположить, что компьютер может оценить осведомленность человека по образцам письма, опять же, без модели реальности, кажется маловероятным, что компьютер сможет взвесить свои источники, как могли бы даже самые убедительные из писателей. несут ошибочные или нежелательные предубеждения.
Взвешенное мировоззрение
Теперь, вместо компьютера, который похож на человека, который изолирован в комнате с открытым доступом к текстам, созданным человеком, давайте предположим, что предоставляются веса, указывающие на надежность информации. В этом случае, если веса оптимальны, компьютер может сформировать оптимальное мировоззрение. Однако на практике определить оптимальные веса может быть невозможно - особенно по субъективным вопросам. Напротив, если веса предоставляются людьми, которые действуют как представители определенного общества или субкультуры, то, по сути, предоставляя веса, люди будут убеждать компьютер принять определенное мировоззрение. Если мы рассмотрим опасности обучения изнутри эхо-камеры, то станет ясно, что этот метод обучения ошибочен, поскольку может быть не объективным.
Важно отметить, что каждый раз, когда разработчик выбирает, какой набор данных использовать для обучения алгоритма, он, по сути, определяет мировоззрение компьютера. Другими словами, с каждым набором данных связано смещение выбора. Это предвзятость может не иметь значения в определенных случаях использования, таких как простые производственные случаи, которые могут рассматриваться как закрытые системы и зависят только от небольшого числа функций; однако это особенно важно при работе с текстовыми данными, поскольку язык - это невероятно тонкая среда, с помощью которой люди передают свои предубеждения.
Последние мысли
Как упоминалось в предыдущем разделе, машина без внешней модели мира не может быть уверена в том, что найдет основные истины, которые не являются главными в наборе данных, и, таким образом, гарантировать, что компьютер усвоит правильное мировоззрение, ответственность за устранение потенциально вредоносных (или просто неуниверсальных) предубеждений лежит на разработчике. Однако даже при наличии оптимально взвешенного набора данных - что бы это ни значило на практике - вполне возможно, что компьютер останется неспособным разрешать противоречия и тем самым создавать связный текст. Таким образом, любой текст, сгенерированный такой машиной, должен рассматриваться людьми как не имеющий тезиса, поскольку даже если текст является связным, убедительным и способен вдохновлять читателей, он был сформирован без намерения существом, которое не имеют единое мировоззрение и не могут нести ответственность за свои слова.
Вернемся теперь к антропоцентризму человеческих желаний. В течение многих лет люди создавали машины для автоматизации нашего труда. Таким образом, можно утверждать, что цель любой машины - способствовать достижению человеческих желаний. Однако для успешного выполнения определенных задач создания языка, таких как задачи создания открытого текста, требующие субъективной реакции, компьютер должен уметь выражать идеи, т. Е. Формировать тезисы таким образом, который одновременно является внутренне согласованным и придерживается к общепринятым истинам. К сожалению, как утверждалось выше, не похоже, что система искусственного интеллекта без воплощения может сформировать такой тезис сама по себе. Поэтому использование таких систем для подобных задач вызывает сомнение.
Хотя я довольно скептически отношусь к способности машин выполнять задачи, требующие подготовки диссертации, я хочу подчеркнуть, что такие задачи составляют довольно небольшую группу по сравнению с более широкой категорией задач, связанных с естественным языком. Кроме того, для данной категории задач использование такой системы, как описанная здесь, может быть этичным или неэтичным в зависимости от приложения. Поэтому в части IV этой серии, прежде чем представить свой последний аргумент, я предложу этическую основу для оценки языковых моделей.
Цитата¹
Это замечательно логично для машины, даже если за бессвязным тезисом нет четко сформулированного тезиса.
Еще более впечатляюще то, что способность выполнять эти задачи, которые раньше выполнялись только человеком, приобретается на примерах, а не кодируется человеком в виде набора правил, созданных вручную. В каком-то смысле мы узнаем, что интеллект - это понятие, которое мы часто объединяем с самосознанием, и что самосознание определенно не требуется для успешного выполнения такого рода задач. В конце концов, вопрос о компьютерном интеллекте может даже не иметь значения. Эдсгер В. Дейкстра обнаружил, что вопрос о том, могут ли машины мыслить, «примерно так же актуален, как вопрос о том, могут ли подводные лодки плавать».
использованная литература
[1] Стивенс и др., 2020. Глубокое обучение с PyTorch. Manning Publications Co.
[2] Грейвс, Алекс. 2014. Генерация последовательностей с помощью рекуррентных нейронных сетей.
