Определения интеллекта

Вопрос о том, могут ли машины думать… не менее актуален, чем вопрос о том, могут ли подводные лодки плавать.

- Эдсгер В. Дейкстра

Три предварительных примечания:

  1. На мой взгляд, интеллект и жизнь являются синонимами, что означает, что вы можете заменить все вхождения слова интеллект словом жизнь, и это эссе по-прежнему актуально.
  2. Я отношусь к интеллекту не как к дискретному качеству, а как к непрерывному спектру. В этот спектр мы можем поместить разные системы, указав, являются ли они более интеллектуальными или менее интеллектуальными, чем другие системы, но никогда не будут просто умными или просто неразумными. Обычно нам хочется думать, что мы ближе к одному концу (если такой конец существует), а камни, стулья и т. Д. Находятся на другом конце. Во всей этой массе я называю систему интеллектуальной, что означает «более интеллектуальный, чем большинство систем, или имеет такой же уровень интеллекта, как и люди» (в зависимости от контекста).
  3. Все элементы, которым мы приписываем качество интеллекта, являются «системами». В этом смысле системы означают, что они являются связанной частью воспринимаемой реальности. Связанный означает, что мы должны заранее указать, какие элементы являются частями системы, а какие нет, или иным образом предоставить правило или машину для определения этого. Воспринимаемое означает, что мы можем использовать какое-то измерительное устройство, чтобы доказать, что они существуют. Обычно набор элементов, составляющих систему, будет взаимодействовать друг с другом, а также с элементами вне системы.

В течение некоторого времени я пытался объяснить себе, почему «стул есть стул», имея в виду, как мы можем с комфортом утверждать, что определенная система разумна, а другая - нет, и все это без четкого понимания определение интеллекта. Это известный факт, что и люди, и определенные алгоритмы могут идентифицировать функцию, не имея возможности определить ее концептуально или словесно. Тем не менее поиск определений важен для более глубокого понимания явления.

Я попытаюсь представить три наблюдения, которые приведут нас к следующему релятивистскому определению: система умнее другой, если она может предсказать свое поведение, что требует некоторого моделирования.

Первое наблюдение вращается вокруг способности противостоять внешним колебаниям в среде системы, действовать в качестве буфера между колебаниями внешнего мира и внутренних частей системы или, говоря более поэтично: способности конвертировать между хаосом и порядком. Чем более неустойчивы внешние колебания и система все еще может с ними справляться, тем она умнее. Это также хорошо сочетается с интуитивными определениями мудрости и свободы воли. Мудрость: умный человек - это тот, кто видит, что грядет. Свобода воли: Свобода воли может быть определена как степень сложности принуждения / принуждения системы к определенным действиям. В некотором смысле, все дело в предсказаниях, поскольку, чтобы противостоять колебаниям, вы должны их предвидеть. Чтобы управлять другой системой, вы должны предсказать ее реакцию на конкретный ввод.

Второе наблюдение касается взаимодействий между разными порядками величины. Интеллектуальные системы часто представляют это качество больше, чем менее интеллектуальные системы. Подумайте о том, как отдельные молекулы могут заставить нас почувствовать что-то, что может заставить нас (систему, состоящую из бесконечного числа других молекул) повернуть в другую сторону. Другими примерами могут быть эксперименты, которые мы проводим на ускорителях частиц, или то, как единственная ошибка в одной молекуле ДНК может привести к смерти человека, или астрология - на нас могут влиять такие большие и далекие звезды. Итак, есть признаки того, что интеллектуальные системы - это своего рода перекрестки между порядками величины, «порталы», если хотите, которые позволяют им влиять друг на друга. Другой способ взглянуть на это состоит в том, что интеллектуальные системы могут ощущать широкий спектр вещей, как близких, так и далеких, больших и малых, при этом имея возможность очень избирательно относиться к этому, например, не каждая молекула влияет на наше обоняние, только очень специфические. На менее интеллектуальные системы влияет то, что близко к их размеру и местоположению, и это влияние не очень избирательно. Это возвращает нас к способности предсказывать, которая во многом зависит от такой способности.

Далее следует третье наблюдение, которое немного отличается от двух других. Мы можем приписывать качество интеллекта «чудесным системам», имея в виду системы, которые мы не очень хорошо понимаем, во многом подобно тому, как боги в греческой мифологии использовались для объяснения природных явлений, которые люди в то время не могли полностью понять. но в более непосредственной обстановке. Другими словами, интеллектуальная система требует от нас эмпатии вместо «механического» понимания. Под эмпатией я подразумеваю некую анимацию системы, чтобы предсказать ее поведение (возможно, более правильное слово - «персонификация» или «антропоморфизм», но я думаю, что анимация лучше передает смысл). Анимация - это очень естественная эвристика для нас, людей, когда мы хотим предсказывать друг друга (в психологическом контексте это называется «теорией разума»). Эта стратегия необходима, потому что в отличие от простых систем, таких как автомобили или камни, другие системы слишком сложны для нас, и мы просто не можем отслеживать значительный процент их компонентов и внутренних взаимодействий. Более того, каждая попытка разделить эти системы на подсистемы оказывается тщетной из-за того, что они настолько взаимосвязаны. Может быть, если бы в нашем мозгу было намного больше нейронов, мозг мыши казался бы нам таким же умным, как, например, механизм блокировки. Идея анимации примерно такая: я сталкиваюсь с очень сложной системой, возможно, даже более сложной, чем я, поэтому лучший способ предсказать ее действия - это притвориться этой системой, определить ее интересы, сохранить свои знания о мире, и подумайте, что бы я сделал, если бы эти знания достигли этих интересов. Это практическое значение того, что значит оживлять что-либо, и можно сказать, что это идентично идентификации системы как интеллектуальной. Итак, это означает, что определение интеллекта таково: дополнительная группа явлений, которые мы можем постичь / предсказать механически.

Итак, как уже говорилось, эти три наблюдения ведут в одном направлении: интеллект - это связь между двумя элементами (при просторечии одним из элементов, эталоном, является средний человек), где один элемент может предсказать другой с помощью некоторого вида моделирования.

Это относительное и не очень эмпирическое определение могло бы служить основанием для аргумента в пользу отмены концепции интеллекта в целом в духе принципа экономности («бритва Оккама»). Но действительно ли это избыточная концепция, просто указание на наше непонимание? Возможно, можно было бы применить более эмпирический подход к изучению архитектуры интеллектуальных систем. Существуют ли определенные структурные принципы, создающие интеллект? Все ли интеллектуальные системы имеют одинаковую архитектуру? Похоже, что этот вопрос пока останется открытым.

Более или менее ясно, что интеллект не возникает только из множества компонентов и взаимодействий. Возьмем два примера:

  1. Стакан с водой содержит огромное количество компонентов и взаимодействий, которые мы не можем вообразить, но все равно не можем назвать это разумным. Эти взаимодействия не «интересны»: во-первых, они не имеют макроскопического эффекта, поэтому у нас нет проблем с их обобщением или игнорированием, и все же предсказать, что будет делать стакан с водой (то есть ничего). Во-вторых, отсутствуют «эффекты стыка» (взаимодействия между порядками величины). В-третьих, эти взаимодействия не делают стакан из воды устойчивым к окружающей среде. Мы легко можем сбить стакан со стола или выпить воду. Между «внутренней водой» и внешними колебаниями нет буфера. Итог - целое - это не более чем сумма его частей: ни архитектуры, ни «дизайна», ни слоев. Просто куча молекул.
  2. Мортем - еще один хороший пример, потому что сложность и физическая структура трупа не выглядят (для нетренированного глаза) очень отличными от таковых у живого человека. Тем не менее, каким-то образом архитектуре системы нанесен серьезный ущерб. Настолько важно, что ясно, что человек - это объект, и не более того.

Эти два примера показывают нам, что дело не только в сложности в смысле количества компонентов и их взаимодействий. Такая сложность - обязательное условие, но этого недостаточно. Более того, воспроизвести это качество относительно легко. Достаточно запрограммировать модельную нейронную сеть с 10 множеством нейронов и иметь между ними какое-то взаимодействие. Вот твой стакан воды. Теперь большой вопрос заключается в том, как воспроизвести конкретную архитектуру, ведущую к интеллекту, соединить нейроны таким образом, чтобы целое было больше, чем сумма его частей. Сложная задача.

Тест Тьюринга

Язык больше всего показывает человека: «Говори, я тебя вижу».

- Бен Джонсон

Тест Тьюринга на интеллект решает проблему измерения интеллекта. Вместо проверки конкретных параметров он предпочитает принимать как разумное все, что мы, люди, признаем как таковое. Однако, если у нас есть какое-то определение интеллекта как способности предсказывать, может быть, мы слишком предвзято относимся к тестам на распознавание человека? Другой способ построения тестов интеллекта - использование игр (как это делается сегодня). В любой игре самое главное - уметь предугадывать, что произойдет в будущем, и соответственно выбирать свои действия. Чем богаче игра, тем выше интеллект она может измерить. Например, возможности шахмат ограничены по сравнению с баскетболом по двум причинам. Во-первых, потому, что последнее происходит в физической реальности, а во-вторых, потому, что в него играют многие игроки. Это приводит к тому, что баскетбол имеет бесконечные возможности.

Тогда что же такого умного в тестах на естественный язык? Почему бы нам не проводить тесты по баскетболу? Использование языка позволяет нам создать достаточно богатую среду, не прибегая к физической реальности, что делает ее более удобной для тестов (особенно во времена Тьюринга), но есть еще одна причина придерживаться таких тестов. Чтобы понять эту вторую причину, мы отмечаем, что любая форма интеллекта должна концептуализировать реальность просто потому, что в комнате больше атомов, чем количество нейронов человека в комнате (если вы не верите в каждая часть вселенной имеет бесконечное количество компонентов). Из-за этого почти каждая интересная система должна иметь какое-то сжатие / внутреннее представление мира. Это означает, что для множества событий, происходящих снаружи, внутри системы будут какие-то измеримые эффекты. Некоторая часть, которая активируется одновременно с этим событием. Простой человеческий пример - нейроны, которые активируются для очень специфических событий (например, ̶r̶e̶c̶e̶n̶t̶l̶y̶ . обнаружил нейрон Холли Берри). Концепции - это элементы внутренних представлений человека, которые могут передаваться извне посредством естественного языка. Таким образом, общение с системой похоже на просмотр внешних слоев непосредственно во внутреннюю работу системы, что в противном случае потребовало бы от нас реверс-инжиниринга системы - что очень-очень сложно, может быть, даже практически невозможно для нас, людей, если бы система имеет слишком много частей / соединений. Подводя итог, можно сказать, что концептуальные тесты на основе естественного языка раскрывают концептуальные сети и, следовательно, дают глубокое понимание системы, а не просто наблюдение за тем, как система реагирует на мир или игровую среду.

Проблема остановки

«То, что я не могу создать, я не могу понять».

- Ричард Фейнман

Еще одно наблюдение, которое я хотел бы сделать, - это интересное «решение» проблемы остановки, которое природа нашла благодаря способности предсказывать, используя сочувствие и анимацию. По сути, проблема остановки - это подвиг предсказания, невозможный с математической точки зрения. Одна машина Тьюринга имеет полную информацию над другой, и нужно «семантически» заявить, что будет делать вторая (например, останавливать или нет). Проблема остановки является признаком неспособности конкретной машины Тьюринга иметь неэвристическое полное понимание (предсказание) любой другой машины Тьюринга из-за нехватки ресурсов представления (как показано посредством диагонализации). Интуитивно говоря, проблема остановки невозможна, потому что существует «слишком много» способов построить машину Тьюринга, которая выполняет определенную задачу. Таким образом, любой эвристический способ предсказать следующий шаг можно было превратить в ловушку и использовать против нас. Если мы попытаемся применить эти концепции к природе, станет очевидно, что ситуация еще хуже - системы никогда не имеют полной информации друг о друге, и даже если бы они это сделали, потребовалось бы огромное количество ресурсов для полного моделирования друг друга (даже мозгу человека не хватает ресурсов, чтобы эффективно моделировать мозг таракана). Это создает серьезную проблему, поскольку способность предсказывать поведение других систем имеет решающее значение для выживания. Итак, решение, к которому пришла природа, можно отнести к следующему: для более простых систем можно реконструировать концептуальную модель, распознавая шаблоны и изучая связи между ними. Это позволяет построить простую модель. Затем эта модель запускается для обеспечения прогноза. Это оценочное моделирование лишь немного отличается от обычного моделирования на машине Тьюринга, поскольку оно компенсирует недостаток знаний. Если же система слишком сложна даже для этого, то выбирается стратегия анимации. В этой стратегии вместо моделирования другой системы делается попытка определить интересы целевой системы, а затем просто действовать так, как если бы они были нашими собственными.

Машины Супер Тьюринга и вычислительные возможности человека

Другой важный вопрос в контексте определения интеллекта касается валидности машины Тьюринга как модели вычислительных возможностей человека. Я постараюсь показать, что этот вопрос связан с вопросом о конечности Вселенной.

Математически доказано, что при бесконечной реальной памяти нейронные сети могут выполнять вычисления супер-Тьюринга. Это просто нейронные сети (или машины Тьюринга, как они эквивалентны) с возможностью хранения реальных констант (1 количество разных чисел). Для этого нам понадобится бесконечное фактическое хранилище и возможность производить вычисления с использованием этих бесконечных ячеек памяти.

Если во Вселенной есть конечное количество частиц (атомов, кварков или чего-то еще), это, конечно, невозможно, и на самом деле даже настоящие машины Тьюринга были бы невозможны, поскольку они предполагают только потенциально бесконечную память (0). В любом случае это означает, что люди не могут выполнять супер-вычисления Тьюринга и математически эквивалентны менее чем машине Тьюринга. То же самое верно и для потенциально бесконечной Вселенной (0), с той лишь разницей, что у нас может быть бесконечная дискретная память, как математическая модель машин Тьюринга.

Однако если Вселенная непрерывна или состоит из 1 частей, тогда существует вероятность, что у нас еще нет физики (или, возможно, даже математики), чтобы описать вычислительные возможности человека, и поэтому границы машин Тьюринга могут не применяться к нас.

Резюме

Наблюдения для разведки:

  1. Прогнозирование окружающей среды
  2. Переходы между разными порядками величин
  3. Сочувствие и оживление в противоположность механическому пониманию.

Определение: система A умнее, чем система B, если она может это предсказать.

Тесты на интеллект:

  1. Важность достаточно богатой среды - физической реальности или языка, а не шахматной игры.
  2. Важность языка как окна во внутреннюю работу системы.

Обсуждаемые другие темы:

Связь между способностью анимировать и проблемой остановки.

Связь между вопросом о том, бесконечна ли Вселенная (и до какого уровня бесконечности) и вопросом о том, являемся ли мы машинами Тьюринга.

(изначально написано в 2010 году, прошу прощения за отсутствие более прямых ссылок на ML)