Дорожная карта из желтого кирпича
Человеческий интеллект - это дорожная карта для ИИ?
Каждому великому проекту нужна дорожная карта. Для многих путь к ИИ предполагает глубокое понимание человеческого интеллекта. Если это кажется очевидным, вы удивитесь, как разворачивается эта история и какую ключевую роль в ней могут сыграть ваши знания.
Я утверждал, что человеческий интеллект - это раздутое ПО, а раздутое ПО может убить (или, по крайней мере, серьезно задержать) даже самые решительные проекты. Образцом сверхчеловеческого интеллекта является не человеческий разум, а человеческое изобретение научных открытий.
Но даже если вы согласны с тем, что автоматическое научное открытие - правильная цель, разве глубокое понимание человеческого интеллекта не является необходимым условием знания? Разве самые фундаментальные идеи нейронных сетей и глубокого обучения не вытекают из этой дорожной карты? А если нет, то каковы альтернативы?
В этом посте я рассмотрю аргументы, лежащие в основе дорожной карты человеческого интеллекта, и почему к ней следует относиться скептически. Я также подниму ключевой вопрос для оценки достоинств вашей собственной дорожной карты.
Является ли человеческий разум нашим лучшим и единственным примером?
Джефф Хокинс, один из самых преданных сторонников ИИ, ориентированного на биологию, открывает свое превосходное эссе IEEE Spectrum вопросом: Почему нам нужно знать, как работает мозг, чтобы создавать интеллектуальные машины?
«Единственный пример интеллекта, способности учиться у мира, планировать и выполнять - это мозг. Следовательно, мы должны понимать принципы, лежащие в основе человеческого интеллекта, и использовать их, чтобы направлять нас в разработке действительно интеллектуальных машин ». - Джефф Хокинс
Это краткий ответ, но вопрос заслуживает более глубокого рассмотрения. Человеческий мозг, безусловно, не наш единственный пример интеллектуальных систем. Люди (и другие животные) демонстрируют гораздо больший интеллект в сетях. Эти сети проявляют эмерджентные свойства, совершенно непохожие на отдельные сущности, и, что важно, они понимаются с помощью совершенно разных объяснительных структур. Есть много других моделей интеллектуальных систем и мудрости толпы, которые следует учитывать, например, рой насекомых, рынки предсказаний, наши институты и социальные сети.
Человеческий интеллект не является нашим лучшим примером создания знаний. Как подчеркивалось в моем предыдущем посте, наш самый знаменитый процесс, научный метод, - это вовсе не природное явление, а, скорее, изобретение человека.
Разве это не очевидно?
Очевидность, пожалуй, самый пагубный аргумент. Примечательно, как часто термины, простые или очевидные, связаны с этим вопросом. Учитывая, что общего искусственного интеллекта не существует, чрезвычайно сложно представить, какую форму он может принять. Аналог человеческого разума устремляется в этот вакуум; сделайте паузу, прежде чем броситься за ней.
Абстрагирование создания знания от различных воплощений этого процесса, будь то естественный или механический, глубоко неочевидно.
Абстрагирование создания знания от различных воплощений этого процесса, будь то естественный или механический, глубоко неочевидно. Рассмотрим гораздо более простой исторический пример: представьте, как трудно было представить себе полет, не думая о птицах или лодках, до того, как вы наблюдали его в самолетах и ракетах. Мы с ухмылкой оглядываемся на эти представления о механическом полете, но история не станет более благосклонной к утверждениям о том, что аналог человека и машины очевиден.
Разве это не необходимое знание?
Вы можете быть склонны к аргументу: Мы не можем действовать без детального понимания того, как думают люди. Это наше необходимое знание.
Очевидно, что нам еще многое предстоит узнать о механизмах естественного интеллекта. Это стремление к хорошим знаниям, знаниям, которые могут сообщить, как создавать интеллектуальные машины. Тем не менее, только некоторые наши знания о естественном интеллекте могут применяться к цели создания знаний, создающих машины. Хокинс объясняет:
«С первых дней существования искусственного интеллекта критики отвергали идею попытки подражать человеческому мозгу, часто с припевом, что« самолеты не машут крыльями ». На самом деле Уилбур и Орвилл Райт подробно изучали птиц ... Короче говоря, братья Райт изучали птиц, а затем выбирали, какие элементы полета птиц необходимы для полета человека, а какие можно игнорировать. Вот что мы сделаем, чтобы построить мыслящие машины ». - Джефф Хокинс
Но является ли человеческий интеллект правильным необходимым условием знаний? Как подчеркивалось выше, наша цель - создание знаний, а создание знаний происходит в различных и возникающих слоях, выходящих далеко за рамки механизмов отдельного мозга.
Надеяться на создание машины, создающей знания без теории познания, сродни вере в то, что машина с крыльями будет летать, без каких-либо объяснений как.
Скорее, это теория познания, аналогичная теории полета. Надеяться на создание машины, создающей знания без теории познания, сродни вере в то, что машина с крыльями будет летать, без каких-либо объяснений как. Как архетип для создания знаний, человеческий интеллект - это птица, которая не умеет летать с поразительной скоростью.
Доказательство в пудинге
Сторонники подходов, ориентированных на биологию, указывают на успех своего подхода в качестве доказательства. В своем эссе Хокинс идентифицирует несколько конкретных открытий, сделанных естественным интеллектом - обучение путем перепрограммирования, разреженные распределенные представления и сенсомоторную интеграцию.
Но обсуждает ли кто-нибудь вклад когнитивной науки в информирование о машинном интеллекте? Вопрос в том, обеспечивает ли человеческий интеллект эффективный план действий. Я могу представить функциональные возможности механизма прогнозирования как компонент человеческого интеллекта и как компонент научного метода. Какой фрейм более эффективен на пути к автоматизированному научному открытию?
Сам Хокинс утверждает, что связь между машинным интеллектом и нейробиологией в лучшем случае незначительна:
«Разве большая часть ИИ не построена на« нейронных сетях », похожих на нейронные сети мозга? Не совсем. Хотя это правда, что сегодняшние методы искусственного интеллекта ссылаются на нейробиологию, они используют чрезмерно упрощенную модель нейронов, в которой упускаются основные черты реальных нейронов, и они связаны способами, которые не отражают реальность сложной архитектуры нашего мозга ». - Джефф Хокинс
По правде говоря, большинство нововведений в области машинного интеллекта - это спроектированные, а не усовершенствованные решения. Это вряд ли эффективный призыв к подходам, направленным на биологию! И прорывы, которые отмечает Хокинс, такие как разреженные репрезентации, кажутся новыми, только если вы опираетесь на концептуальные рамки человеческого интеллекта. В более обобщенном информационном контексте не так уж и много.
Обсуждая перипетии приведенных выше аргументов, возможно ли, что человеческий интеллект является эффективным дорожной картой? Что еще более важно, каковы альтернативные издержки неиспользованных дорог?
Фундаментальный вопрос для направления вашей дорожной карты
Природа - обманчивый проводник для разумных машин, как и наша естественная интуиция. В человеческом интеллекте как дорожной карте нет ничего очевидного или предопределенного. Подобно тому, как человеческий интеллект - это раздутое ПО, изучение человеческого интеллекта не может заменить дорожную карту, направленную на достижение правильной цели.
Изучение человеческого интеллекта не заменяет дорожную карту, нацеленную на достижение правильной цели.
Похоже, что большая часть комплекса машинного интеллекта отклоняется от этого фундаментального положения: цель не в человеческом интеллекте, а в создании знаний. Может случиться так, что мы не сможем преодолеть расстояние до общего искусственного интеллекта без глубокого и всестороннего понимания человеческого интеллекта. Но цель - не обучение, предсказание, сознание или любой другой компонент естественного интеллекта, целиком или частично. Наша цель - машина, способная создавать революционные научные знания.
И это стремление может быть связано с областями, весьма далекими от изучения человеческого интеллекта. Многих парализует вера в то, что когнитивная наука является предпосылкой любого значимого вклада в машинный интеллект. Это ужасная проблема. Величина и важность машинного интеллекта вызывают у всех. Эти усилия могут быть привлечены как из философии и социальных наук, так и из компьютерных и когнитивных наук.
Мы не можем просто заткнуться и предсказать; данных и наблюдений недостаточно. Обратный инжиниринг человеческого интеллекта может захватить популярное воображение, но в качестве дорожной карты он в лучшем случае неэффективен, а в худшем - бесполезен.
При составлении дорожной карты начните с этого фундаментального вопроса: какова основная теория создания знаний, которая обеспечит полет вашего проекта? Каково объяснение того, почему ваша машина дает хорошие знания?
Из Объяснимого стартапа, посвященного науке и философии решения проблем.
