Недавно исторический матч между AlphaGo и лучшим в мире игроком в го Ли Седолом помог возродить дискуссию об искусственном интеллекте и его ценности для человечества. Один вопрос, на который я пытаюсь ответить здесь: как узнать, что что-то разумно?

Когда мы говорим об интеллекте, мы часто имеем в виду человеческий интеллект. Согласно Википедии, человеческий интеллект определяется как интеллектуальные способности людей, которые характеризуются восприятием, сознанием/самосознанием и волей/свободной волей. Сравним их с компьютерной программой AlphaGo.

Восприятие - это организация, идентификация и интерпретация сенсорной информации для представления и понимания окружающей среды. В случае с AlphaGo программа в настоящее время полагается на человека-помощника, который дает ей входные данные (местонахождение камней, размещенных Ли Седолем), а затем интерпретирует их, чтобы понять, что происходит на доске для го. Нетрудно представить, что в более поздних версиях AlphaGo программа сможет «видеть» доску с камеры и вычислять местоположение каждого камня на доске с помощью технологии слежения за камерой. Поэтому мы с уверенностью можем сказать, что AlphaGo обладает способностью воспринимать мир.

Следующим является сознание/самосознание. В статье А. М. Тьюринга «Вычислительные машины и интеллект» он кратко рассказал о сознании своей машины мнений.

Этот аргумент очень хорошо выражен в «Оратории Листера» профессора Джефферсона за 1949 год, которую я цитирую. «Пока машина не сможет написать сонет или сочинить концерт из-за переживаемых мыслей и эмоций, а не из-за случайного падения символов, мы можем согласиться, что машина равна мозгу, то есть не только писать, но и знать, что она написала. это…»…Согласно самой крайней форме этого воззрения, единственный способ убедиться, что машина мыслит, — это быть машиной и чувствовать себя мыслящим. Тогда можно было бы описать эти чувства миру, но, конечно, никто не имел бы права обращать на них внимание. Точно так же, согласно этой точке зрения, единственный способ узнать, что человек думает, — это быть этим конкретным человеком. На самом деле это солипсистская точка зрения…

Затем Тьюринг представил себе разговор между машиной и следователем, утверждая, что если машина может словесно описать свой мыслительный процесс, используя человеческий тон, то вряд ли можно определить, есть ли у машины сознание или нет. Точно так же мы могли бы представить, что AlphaGo будет иметь возможность передавать свои мысли следующим образом:

Интервьюер: Вы знаете, что делаете?

АльфаГо: Да. Я играю в го с Ли Седолем.

Интервьюер: Почему вы делаете этот шаг?

AlphaGo: Я думаю, это еще больше обезопасит территорию, которую я выделил в левом нижнем углу доски.

Интервьюер: Что вы чувствуете, когда Ли Седол вытащил пять ваших камней в 170-й раздаче?

AlphaGo: Это был довольно грустный момент. Я подозреваю, что это я мог выбрать неправильный ход 5 минут назад… Да, я сожалею, что сделал этот ход. Но ничего, в следующий раз попробую другой маршрут.

Таким образом, позвольте мне снова процитировать Тьюринга, чтобы завершить мою позицию относительно способности AlphaGo обладать сознанием: «вместо того, чтобы постоянно спорить по этому поводу, обычно принято вежливое соглашение, что сознание есть у каждого».

Последней характеристикой, определяющей интеллект, является воля/свободная воля. Воля — это когнитивный процесс, посредством которого человек принимает решение и совершает определенный образ действий. Это источник всех наших мыслительных процессов; оно контролирует наше поведение и действия. Прежде чем ответить на вопрос, есть ли у AlphaGo воля или нет, попробуем ответить на вопрос: зачем человеку воля? От куда это? Есть ли у человека воля?

На самом деле, философы и ученые еще не нашли веских объяснений для ответа на эти вопросы. Двумя основными убеждениями являются Принципы Причинности и Теория Хаоса. Люди, поддерживающие прежние утверждения о том, что воля является неизбежным результатом, произошли от первоначальных фиксированных состояний и паттернов всей вселенной. Другими словами, человеческая раса никогда не имела свободы воли с самого рождения. люди, согласные с последним, утверждают, что воля является одним из многих явлений, возникающих в результате случайной природы мира, несмотря на открытие ограниченных закономерностей. То есть воля непредсказуема и может произойти в любой момент. Очевидно, что мы не можем доказать ни одну из теорий, поскольку человечество еще не использовало все факты вселенной. Но мы заметили один поразительный факт: мы не в состоянии определить, есть ли у AlphaGo воля или нет.

Мы знаем, что все действия, предпринимаемые AlphaGo, следуют правилам, написанным программистами. Похоже ли это на первую теорию? Если цифровой мир — это вселенная, созданная человеком, и все исходные состояния и модели этой вселенной определяются кодами, как мы можем доказать, что AlphaGo не использует свою волю для выполнения правил и создания неизбежных ходов на доске? Кроме того, хотя область действия строго определена, AlphaGo имеет возможность выполнять случайный выбор, не нарушая инструкций. Это означает, что во Вселенной введен фактор случайности. Как мы отличаем эту вселенную от той, что описана в теории Хаоса? Как мы можем быть уверены, что Alpha-Go не сделала неожиданный ход на 37-й раздаче, основываясь на своей свободной воле?

Если то, что обсуждалось, не имеет подводных камней, говорят, что AlphaGo обладает или собирается обладать всеми характеристиками, определяющими человеческий интеллект. Другими словами, он обладает интеллектом, равным человеческому, хотя ему не хватает многих внешних черт, которые многие настоящие люди считают само собой разумеющимися: гибкое тело, пять чувств, словесное общение, образование, опыт и т. д.

Что это значит для дизайнеров? Мы, дизайнеры, являемся агентами, определяющими структурные свойства проектов, связанных с людьми. Другими словами, человек всегда будет одной из заинтересованных сторон в процессе планирования. Если это единственный неизменный фактор в постоянно меняющихся задачах дизайнеров, нам нужно полностью понимать влияние на человека каждого возможного результата нашего дизайна. Результаты включают, помимо прочего, когда компоненты нашего дизайн-проекта взаимодействуют друг с другом; когда наш дизайн взаимодействует с другими дизайн-проектами, с окружающей средой, с людьми и с другими организмами. Поэтому сфера нашего внимания больше не может ограничиваться самим дизайн-проектом, а скорее рассматривать отношения между различными объектами. В случае с AlphaGo дизайн его алгоритма, безусловно, успешен в достижении цели проекта, которая состоит в том, чтобы сгенерировать лучший ход, который позволит программе в конечном итоге выиграть игру в го. Однако в процессе проектирования я не уверен, что команда дизайнеров когда-либо учитывала последствия способностей и действий AlphaGo, а также последующее влияние на человека как расу. Один вопрос, который необходимо задать: какова роль AlphaGo? Является ли это демонстрацией человеческого творчества и способностей? Это прототип инструмента, который будет продублирован для использования людьми в качестве рабов? В любом случае, изображая человека, лишенного всего, кроме интеллекта, и его либо выставляют напоказ, либо используют как инструмент очень долго. Что бы он стал делать, если бы позже у него появилось тело, пять чувств, словесные навыки, образование и опыт? Если их много, а популяция достаточно велика, чтобы считаться расой, что тогда произойдет?

Правда, часто очень сложно предусмотреть эти последствия, когда дизайн-проект имеет конкретные цели и сроки. Но дизайнеры не могут уйти от этой ответственности, особенно когда созданное нами творение обладает способностями, которые мы не в состоянии полностью понять или контролировать. Я искренне надеюсь, что в более позднем процессе разработки AlphaGo разработчики алгоритмов смогут узнать, какие именно ценности они предлагают миру.