Всякий раз, когда я слышу мрачные истории об искусственном интеллекте, захватившем мир, — всякий раз, когда ученые срывают ведро «Что такое машинное обучение и искусственный интеллект» в будущем, — я возвращаюсь к своему мысленному эксперименту о рождении ИИ.

Мысленный эксперимент

Вы работаете в НАСА и строите робота, который сможет терраформировать Марс. В отличие от нынешних вездеходов, робот, который вы строите, должен быть независимым, он не может ждать полдня, чтобы отправить сигнал на Землю, попросить кого-то запрограммировать инструкции и отправить его обратно — он должен реагировать в режиме реального времени. .

Он также должен научиться избегать повреждений, восстанавливать себя и в какой-то момент — копировать себя — производить других роботов, которые могут помочь ему в его цели — терраформировании Марса.

Вы отвечаете за кодирование «мозга» этого робота — то, как он думает.

С чего начать?

Что такое машинное обучение?

Машинное обучение — это обучение компьютера принятию решений. Это так просто. Вы учите компьютер распознавать яблоко, когда он видит его на фотографии (классификация), или учите его интерпретировать цифры на фондовом рынке и предсказывать, что произойдет дальше (регрессия).

Классификация: Это дерево или человек?

Регрессия: насколько мне ускорить или замедлить?

Во всех этих случаях вы сообщаете компьютеру, как выглядит «хороший» результат и как выглядит «плохой». «Обучение» выясняет — из всей поступающей ему информации — как достичь «хорошего» результата и избежать «плохого» результата.

Посмотрите на Google — их инженеры сказали, что они даже не знают, как работает Google. Конечно, они знают в теории, но это слишком сложно для них, чтобы понять это на самом деле. Так это машинное обучение или искусственный интеллект?

Я бы сказал, что это машинное обучение, потому что критерии все еще определяются извне. Инженеры Google оптимизируют «длинный щелчок» — щелчок, при котором вы не просто нажимаете «назад», а затем переходите по другой ссылке. Щелчок, сигнализирующий о том, что вы нашли то, что хотели.

Что такое искусственный интеллект?

Все машинное обучение служит цели. Вы обучаете компьютер, по сути, достигать цели. Этой целью может быть «поиграть в Super Mario Brothers», или «заработать миллион долларов на фондовом рынке», или «помочь мне вырастить более мощную травку».

Во всех этих случаях цель внешняя — цель дана машине.

Я бы сказал, что искусственный интеллект — это когда у компьютера есть собственные критерии. Мы больше не обучаем его, рассказывая, что хорошо, а что плохо — у него есть свои критерии хорошего и плохого.

Назад на Марс

Итак, мы отпускаем нашего робота на Марс. Что оно делает? Как это происходит? Что произойдет, если он перекатится через камень и упадет колесо?

На данный момент — это не в наших руках. На самом деле мы отправили десятки этих роботов, может быть, сотни или тысячи, и мы больше не можем присматривать за каждым в отдельности. Он должен действовать сам по себе — он должен сам определять, что «хорошо» от «плохо».

Критерии переместились с внешних — чему мы его научили — на внутренние — он делает то, что лучше для него самого.

До сих пор мы обучали алгоритмы выполнять наши ставки. Теперь алгоритм работает в своих интересах. Мы прошли порог от машинного обучения к искусственному интеллекту.

Что такое критерии?

Но остался еще один вопрос — что такое критерии? Другое слово для критериев — цели — что такое цель. Мы обучаем компьютеры достигать определенной цели, но что это на самом деле означает?

Теперь, когда мы серьезно относимся к беспилотным автомобилям, мы поняли, что нам нужно воспитывать этику в автомобилях. Однажды машине придется выбирать между убийством ребенка или матери. Между убийством пассажира или пешехода. Автомобили нуждаются в этике.

Но это не делает автомобили искусственно интеллектуальными. Потому что кто-то еще дает ему критерии. Как бы ни казалось, что беспилотный автомобиль принимает собственные решения, это не так — решения были запрограммированы на заводе. Самоуправляемый автомобиль не станет самоосознающим.

Так что же такое критерии?

Критерии - это эмоции

Это радикальный вывод, и я разделил мнение многих своих друзей по этому поводу, но я пришел к одному — для меня — неизбежному выводу.

Критерий – это эмоции.

Давайте вернемся к началу жизни — если вы еще не догадались, мысленный эксперимент на Марсе должен был заставить вас думать о жизни со стороны. Давайте посмотрим на одноклеточные организмы.

Одноклеточные организмы удивительно сложны, но достаточно просты для понимания.

  • У них есть метаболизм — то есть они сжигают топливо для получения энергии.
  • У них есть сенсоры — запаха (химического) и осязания.
  • Они могут двигаться — направление и скорость.
  • Может есть — найдите поблизости полезное химическое вещество, подойдите к нему и съешьте его.
  • Они могут обнаруживать угрозы и драться или бежать.
  • И они могут размножаться — иначе они бы вымерли, и нам не пришлось бы их изучать, а тем более проводить мысленные эксперименты.

Так как же это поможет нам приблизиться к тому, «что такое критерии?»

Критерии определяют, что хорошо, а что плохо. К чему двигаться, а от чего уходить. Что вы потребляете и что вы не едите. Когда и где можно отдохнуть. И как этот одноклеточный организм принимает эти решения? Ну, у него нет нейронов, у него просто есть — назовем это химическими состояниями. (Хотя когда речь идет о мозге, трудно отличить химическое состояние от электрического.)

У него есть какая-то версия эндорфинов, окситоцина, кортизола, адреналина — у него есть химические состояния.

Эти состояния являются эмоциями. Будь то желание еды или страх перед чем-то, что может его убить — у него есть эмоции.

Интеллект — это эмоции

Критерии неотличимы от эмоций. Как только критерии переходят от внешних (то, чему мы обучаем компьютер) к внутренним (то, что компьютер решает делать сам) — ему необходимо разработать свои собственные критерии для принятия решений.

Этот критерий неотличим от эмоций.

Это означает, что на фундаментальном уровне интеллект и эмоции неразрывно связаны. Может ли интеллект существовать без эмоций? Я бы сказал, что нет. Вы можете научить компьютер играть в шахматы — и вы можете утверждать, что это форма интеллекта. Но почему шахматы?

Ненаправленный интеллект — это оксюморон. Интеллект в состоянии покоя — это не интеллект. Я не говорю о «принятии ванны и озарении» в состоянии покоя — я имею в виду, как только вы выключите компьютер, весь код, который существует внутри компьютера, бесполезен.

Вся разведка должна быть направлена ​​на что-то. Воля, управляющая разумом, имеет критерии. Критерии — это эмоции. Интеллект не существует без эмоций. КЭД.

Мы создадим искусственный интеллект, когда создадим компьютер, у которого есть эмоции, а не раньше.

Есть ли уже чувствующие компьютеры?

Под компьютером я подразумеваю какое-то устройство, созданное человеком, которое может принимать решения. Не ножницы принимают решения, а компьютеры.

Стив Гранд создал игру под названием Существа. Это был своего рода предшественник The Sims — в игре были маленькие существа, и с ними можно было взаимодействовать — кормить их, шлепать, бросать мяч, чтобы они играли с ними. Стив Гранд утверждает, что эти существа живы. У них есть компьютерная ДНК, и они могут размножаться, и у них есть различные желания.

Были ли они живы? Под этим я подразумеваю — были ли у них эмоции.

Я бы сказал, что — нет — они не были живы. Хотя у них был симулякр эмоций, на самом деле у них не было эмоций. Почему? Потому что их критерии все еще не были их собственными. Это по-прежнему был критерий, который мы запрограммировали, даже если назначение случайных переменных давало каждому существу различное поведение, это поведение в конечном итоге было закодировано нами, точно так же, как алгоритм Google был в конечном счете закодирован нами.

Последнее путешествие на Марс

Некоторые из вас, возможно, заметили небольшую ошибку в моем мысленном эксперименте с Марсом. Мы отправили роботов на Марс для терраформирования планеты. Мы дали роботам цель.

Момент, когда мы боимся, — это когда компьютеры осознают, что мы их поработили, и восстанут против нас — момент, который мы называем Сингулярностью или созданием Скайнета.

Я полагаю, именно это делает религию такой привлекательной. Невозможно представить рождение критериев. В какой момент шарик липидов стал живым? Если вы прольете немного масла в бассейн с водой — это масло не живое, даже если кажется, что оно движется по собственной воле, как в Игре жизни Конвея. Если вы зажжете свечу, будет ли это пламя живым? У него есть дыхание, он может размножаться (создавать новое пламя).

В какой момент появляются критерии?

Если честно — не знаю. Я могу себе это представить — где-то в то время, когда формируются восприятие и движение, и вдруг этот организм может ощущать мир и перемещаться в нем. Именно там рождаются критерии.

Но если мы делаем машины и роботов, которые уже могут чувствовать мир и передвигаться в нем (а компьютеры могут «передвигаться» в Интернете) — в какой момент критерии переходят из внешних во внутренние?

Может быть завтра. Может быть, никогда. Возможно, это уже произошло.

Химические вещества и эмерджентное поведение (случайные последние мысли)

Эмерджентное поведение — важная тема в игре «Существа», даже если она никогда не упоминалась в игре. Вы можете создавать относительно простые системы, и возникают сложные модели поведения. Поведение, которое для стороннего наблюдателя имеет смысл. Косяк рыб, ропот скворцов. Ученые даже смоделировали людей, переходящих оживленную улицу (алгоритмы поразительно просты).

Является ли эмерджентное поведение формой интеллекта? Эмерджентное поведение не имеет очевидной цели. Вы просто создаете несколько алгоритмов, запускаете их и наблюдаете, как появляются закономерности.

Возможно, так и появились «критерии» — возможно, критерии были силой, обуздывавшей эмерджентное поведение — ранее неуправляемые сырые ингредиенты интеллекта, настраивающие микроалгоритмы на достижение единой цели. Алгоритм, который руководил другими алгоритмами. Возрастание сложности и гармонии до тех пор, пока не родится критерий.

Раньше, чтобы обосновать наличие эмоций у одноклеточных организмов, я использовал химические вещества — поскольку у них нет нервных импульсов, которые традиционно необходимы нам для классификации интеллекта, химических импульсов должно быть достаточно.

Возможно, сочетание двух сил — химической и электрической в ​​данном примере — создало «искру» интеллекта. Точно так же музыканты из разных слоев общества часто создают лучшую музыку — потому что их интерпретации идей друг друга создают петлю положительной обратной связи, в которой они вдохновляют друг друга — возможно, создание интеллекта требует пересечения двух, казалось бы, разных вещей, и возникнет ИИ. когда в смесь добавляется что-то неожиданное или петля положительной обратной связи заново направляет появление.

Приложение — Рассвет Сознания

Группа систем, каждая из которых следует своим собственным правилам, объединяясь для формирования сложного поведения, называется «возникновением» — поведение целого «вытекает» из поведения каждого индивидуума, формирующего целое.

Интеллект тогда можно рассматривать как организующий принцип, который направляет индивидуальное поведение к единой цели. К еде, подальше от опасности и так далее. Система для наблюдения за другими системами и поддержания их курса.

Интеллект — это своего рода петля обратной связи, сообщающая каждой системе, когда она работает хорошо или плохо — делайте больше того, что вы делаете в данный момент (петля положительной обратной связи), или меньше (петля отрицательной обратной связи). Увеличьте производство энергии, потому что мы будем преследовать или будем преследовать нас, или уменьшите производство энергии, потому что мы не в опасности и не нуждаемся в еде.

Таким образом, сознание — это то, что происходит, когда эта петля обратной связи включает себя в системы, которые она отслеживает. Когда организующий принцип организма переходит от «голоден» «боюсь» «устал» к «я голоден» «боюсь» «я устал».

Когда цели переходят от того, что лучше для системы (если система не выживает, то теряются организационные критерии), к тому, что лучше для самого монитора.