Я люблю, когда получают ответы на мои старые вопросы. Двадцать лет назад я лежал без сна, недоумевая, почему существует жизнь. Теперь, после прочтения таких книг, как [Schrödinger, 1944], [Tegmark, 2017] и [Carroll, 2016], я думаю, что понимаю. Жизнь - это немагический физический процесс. Жизнь похожа на маленьких пыльных дьяволов; маленькие вихри материи, которые движутся, но случайно имеют структуру, позволяющую им существовать дольше, чем они имеют право. Пылевые дьяволы, конечно, не живы, потому что они не размножаются, но они являются хорошим напоминанием о том, какой процесс представляет собой жизнь.

Жизнь существует, потому что она существует. Это звучит как дзен-коан, но я имею в виду, что как только случайно запускается процесс, обладающий свойством, что он продолжает работать, он продолжает работать именно потому, что у него есть это свойство. И если у этого процесса случайно есть свойство, которое он может воспроизводить, так что свойство, которое поддерживает его работу, передается его копиям, их еще больше. Эти копии, конечно, не идеальны. На копиях есть небольшие дефекты, и некоторые из этих недостатков приводят к вариациям, которые могут продолжаться и воспроизводиться еще лучше. Это приводит к еще большему количеству этих вариаций и большему количеству вариаций, вытекающих из них, и в результате появляются бактерии, деревья, люди, пауки и куры.

При чем здесь интеллект? Некоторые разновидности пыльного дьявола обладают свойством двигаться к тому, что поддерживает их движение, и избегают вещей, которые их гасят; мы называем это интеллектом. В некоторых случаях больший интеллект позволяет пылевому дьяволу существовать дольше и в более разнообразных средах, поэтому он может создавать больше пылевых дьяволов и разновидностей пылевых дьяволов.

Мы, человеческие дьяволы, пытаемся искусственно создать интеллект. Мы строим его сверху вниз, стремясь достичь человеческих целей. В отличие от этого, природа создавала интеллект снизу вверх, без всякой цели, поскольку вариации накапливались за вариациями. Это различие, вероятно, объясняет, почему специалисты, практикующие искусственный интеллект (ИИ), как правило, меньше боятся ИИ, чем другие люди. Мы рассматриваем это как инженерное дело, как создание лучших тостеров или посудомоечных машин. Люди, смотрящие на ИИ со стороны, не считают его инженерией; они видят артефакты, которые действуют так, как будто они живые, и делают то, что делают люди, например, водят машины и идентифицируют кошек на картинках. У них возникает естественный вопрос: «Как мы собираемся контролировать эту жизнь, когда она станет умнее нас?»

Мы строим наш ИИ сверху вниз, потому что нам нужно, чтобы он был полезен сейчас, и потому, что мы не понимаем основ естественного интеллекта. Результатом такого нисходящего подхода является поверхностное воплощение. Разумы, которые мы создаем, не воплощены, или даже когда они воплощаются, мы пытаемся перейти непосредственно к созданию разума, который может обрабатывать концепции, относящиеся к человеческой культуре, без основополагающих водопроводов. В результате мы получаем программы, которые оценивают сочинения учащихся, не умеющих читать, и у нас есть роботы, которые строят автомобили, не зная, что такое дорога.

Напротив, естественный интеллект зародился у организмов с простой морфологией, и эти простые формы тела обеспечивали ограниченное пространство восприятия ввода и ограниченное пространство действий, что приводило к простым решениям на основе простых входных данных. В процессе эволюции морфология и интеллект организмов развивались вместе, что привело к глубоко воплощенному разуму. Например, мы, люди, так эффективно ходим, потому что пользуемся динамикой наших ног и относимся к ним как к маятникам [Clark, 2008]. А наши сенсомоторные процедуры позволяют нам делать такие вещи, как приготовление бутербродов, при этом минимизируя требования к памяти, позволяя нам использовать взгляды для получения нужной информации из нужной части окружающей среды в нужное время [Ballard, 2015]. Мы используем наше глубокое воплощение как для действий, так и для внутреннего моделирования. Когда мы представляем, как пинают объект, мы делаем это воображение той частью нашего мозга, которая действительно пинает его [Bergen, 2012]. Множество различных способностей работают вместе произвольным образом, приводя к сознательному обществу, которое управляет нашим поведением [Minsky, 1988].

Поскольку мы хотим, чтобы наш ИИ сразу стал полезным, мы создаем роботов со сложной морфологией, которые могут собирать предметы, идентифицировать кошек на изображениях и классифицировать обзоры фильмов на основе настроений. В последнее время мы добились большого успеха с глубоким обучением и даже с генетическими алгоритмами, но когда дело доходит до построения здравого смысла, то, что мы называем искусственным общим интеллектом (AGI), мы натолкнулись на стену . Такое отсутствие прогресса происходит из-за сложности построения на основе способностей более низкого уровня.

Общий интеллект человека строится на низкоуровневых, доязыковых концепциях [Feldman, 2006], [Mandler, 2004]. Чтобы понять язык и предложения вроде «Наш стартап отправил нас в долгий путь», мы сопоставляем их с физическим опытом, например, с фактическим продвижением по длинному пути [Lakoff & Johnson, 1980]. Чтобы достичь реального понимания, нам может потребоваться построить абстрактные концепции поверх реального кода, который выполняет лежащий в основе физический аналог. У нас есть беспилотные автомобили, которые могут выполнять навигацию; возможно, нам нужно построить высокоуровневые абстракции непосредственно поверх этого навигационного кода, чтобы робот мог понять, как создание компании может стать «путешествием».

Хотя мы целенаправленно пытаемся создать ИИ сверху вниз, наша экономика и компьютерная инфраструктура могут позволить ИИ возникать снизу вверх. Сами наши компьютерные программы претерпевают своего рода эволюцию. Компьютерные программы, которые работают хорошо, запускаются очень часто, как пыльные дьяволы, которые продолжают работать. И пока они остаются, они накапливают изменения из тикетов Jira и вариаций из форков на GitHub. Код начинается сверху вниз с красивыми абстракциями, но со временем мутации накапливаются, и он становится менее понятным, но более подходящим для своей среды.

Мы также постепенно объединяем наши программы вместе, чтобы они приближались к сознательному обществу. Задачи, которые раньше были необходимы для выполнения задач, такие как сортировка или запуск классификатора CNN, теперь можно просто вызывать, позволяя программисту сосредоточиться на проблемах более высокого уровня. Мы постепенно создаем более сложные системы с помощью make-файлов, микросервисов, API, репозиториев GitHub и Apache Maven. Эти маленькие сообщества разума теперь настолько сложны, что код часто объединяется один раз в контейнер Docker, чтобы каждому пользователю не приходилось бороться с несовместимостью версий между различными вариациями компонентов. И поскольку эти функции построены на основе более простых функций, мы получаем своего рода глубокое воплощение в кибер-мире. Бот Twitter построен на коде, который идет вплоть до отправки пакетов через TCP / IP.

Будут ли наши разумные машины когда-либо живыми существами, такими как вы и я, с богатым пониманием мира и даже сознанием? Мы не знаем, как сделать контейнер Docker сознательным, но наши компьютерные технологии могут двигаться по восходящему пути, аналогичному тому, который привел к нашему сознанию. Тем не менее, есть как минимум две загадки. Мы видели только одну разновидность пылевых дьяволов, развившую богатый язык и сложность культуры, которую он позволяет, и мы понятия не имеем, как мы это сделали и даже как все это работает. Вторая загадка сознания еще глубже. Мы не знаем, нужно ли это, или мираж, или основанный на математических принципах. Как только мы разрешим эти две загадки, мы получим лучшее представление о вероятности появления сверхразумных машин, если только они не решат их первыми.

использованная литература

[Баллард, 2015] Баллард, Д. Вычисления мозга как иерархическая абстракция.

[Берген, 2012] Берген, Б. К. Громче слов.

[Кэрролл, 2016] Кэрролл С. Общая картина.

[Кларк, 2008] Кларк, А. Превосходя разум.

[Фельдман, 2006] Фельдман Дж. От молекулы к метафоре.

[Джонсон, 1987] Джонсон М. Тело в разуме.

[Лакофф и Джонсон, 1980] Лакофф, Дж. И Джонсон, М. Метафоры, которыми мы живем.

[Мандлер, 2004] Мандлер Дж. Основы разума.

[Минский, 1988] Минский М. Общество разума.

[Шредингер, 1944] Шредингер Э. Что такое жизнь?

[Тегмарк, 2017] Тегмарк, М. Life 3.0.