Когда люди говорят об ОИИ, ясно, что они ожидают, что ИИ будет думать так же, как люди, и будет соответствовать или превосходить нас в типе мышления, который характеризует человеческое мышление. ИИ уже превосходит нас, когда дело доходит до игр, но занятия, в которых ключевое значение имеет творчество, по-прежнему остаются сферой, в которой правят люди.

Это связано с тем, что человеческое мышление развивалось в течение миллионов лет эволюционного давления, еще до возникновения разума, а также путем захвата и сохранения человеческой культуры в течение последних 100 000 лет. Наша способность общаться друг с другом и сохранять наши знания в письменной форме позволяет нам не начинать с нуля каждое поколение.

Сегодня люди уже усовершенствованы технологиями и больше не обременены необходимостью самостоятельно вычислять сложные уравнения или выполнять определенные задачи, которые можно делегировать машинам. Это увеличение будет продолжаться, и будет справедливо сказать, что современный человек имеет сверхчеловеческий уровень знаний по сравнению с его предком 100 или более лет назад, если он просто вооружен компьютером и подключением к Интернету.

Могут ли инструменты машинного обучения, такие как глубокое обучение и другие, действительно сделать машину такой же умной, как человек? Да и нет. Человеческий мозг — это машина Тьюринга, он может вычислить все, что может сделать электронный компьютер, и наоборот. Мозг не оптимизирован для обработки больших чисел или точного хранения длинных строк данных. С чего бы это? На протяжении большей части существования человечества масштаб вещей, с которыми мы имеем дело, относительно невелик.

Нам не нужно было считать до миллионов, чтобы выжить, и большинство наших процессов ориентированы на ответ «достаточно хороший на данный момент», который можно вычислить быстро. Мы не вычисляем оптимальный путь неявно, за исключением случаев, когда к этому нас обязывают законы физики. Наш генетический материал представляет собой схему мозга, способного к обучению, но не имеющего ничего другого.

Объем информации, с которой мы рождаемся, ничтожно мал по сравнению с тем, что мы узнаём в первые 5 лет. К тому времени, когда мы становимся взрослыми, беспокоясь об ИИ, мы забываем больше вещей, чем можем легко вспомнить. Мозг хранит воспоминания, усиливая пути в нейронных связях, поэтому неиспользуемые связи, по-видимому, со временем ослабевают. Обучение — это процесс усвоения внешней информации и кодирования ее в наши нейронные сети.

Я не уверен, есть ли другие элементы, участвующие в хранении или воспоминании информации, но в конечном счете это не имеет значения. Мы учимся, переживая внешний мир и усваивая его. Обучение компьютера работе с большими наборами данных и минимизация ошибок в чем-то похоже, но не одно и то же. Было сказано, что мы должны стремиться не к подражанию взрослому интеллекту, а к созданию системы, способной к обучению, подобно ребенку. Ограниченный объем информации, передаваемой от поколения к поколению через ДНК, является биологическим ограничением, поэтому нет причин, по которым потомку машины пришлось бы начинать с нуля. Влияние наших органов чувств на обучение и то, как кодируется информация, очень интересно.

Концепции можно понимать во многих измерениях, включая визуальное представление, семантическое представление, связь с другими воспоминаниями и даже с помощью таких вещей, как запах. Люди, которые имеют ограниченные чувства или страдают от препятствий, все еще помнят вещи во многих измерениях. Вот почему мы можем что-то вспомнить по вкусу или по запаху, не ища ничего по ключевому слову. В конце концов, все это закодировано на каком-то биохимическом языке, и если это можно представить, то это можно представить в двоичном виде. Если мозг может вычислять операции И-НЕ, он может выполнять все вычисляемые функции. Он просто не оптимизирован для хранения данных и их эффективного вычисления.

Человек, усиленный машинными компонентами, может быть таким же быстрым, как любой компьютер, сохраняя при этом человеческую креативность. Креативность также является биологическим даром, призванным дать нам возможность предсказывать, что произойдет, основываясь на опыте, и строить догадки о том, что может произойти даже при отсутствии данных. Это позволяет нам создавать что-то новое, но это не работает в вакууме. Оно подпитывается тем, что мы знаем, и тем, как устроен наш мозг. Даже дети могут быть очень творческими без большого количества информации. Это потому, что имеющаяся у них информация закодирована непосредственно в их нейронных сетях, а не в виде данных, доступных для запроса, таких как факты. Они приходят позже, но в ранние годы каждый шаг и каждый день — это опыт обучения, и если бы мы не учились быстро, мы бы не дошли до этой стадии, учитывая наши другие биологические недостатки.

Структура мозга насчитывает сотни тысяч лет, поэтому нереалистично ожидать, что машина эволюционирует в процессе обучения до сопоставимой конструкции. Здесь может произойти несколько вещей, если подумать о дизайне ИИ.

  1. Мы пытаемся сканировать существующую архитектуру мозга и воспроизвести ее на машине. Этот подход имеет то преимущество, что сама сеть будет способствовать человеческому интеллекту. Развитие в человеческом стиле должно быть приблизительным для машин, включая развитие органов чувств или их эквивалентов и цикл роста. Это приводит к интеллекту, очень похожему на человеческий, и, по-видимому, расширяет творческий потенциал машинного царства.
  2. Мы допускаем возможность того, что интеллект человеческого типа — это только один вид и что существует множество других возможностей для возникновения интеллекта. Благодаря искусственной эволюции и постоянному совершенствованию машины со временем превращаются во все более и более интеллектуальные конструкции, что в конечном итоге приводит к сингулярности самосознания. В конце концов машины создают другие машины, превращаясь в сверхразумы, которые намного превосходят то, что мы можем себе представить и потенциально контролировать. Это сценарий, о котором нас предупреждают многие, когда дело доходит до погони за ОИИ.
  3. Наше понимание биологического и механического интеллекта таково, что мы можем создать гибридный подход, исключающий эволюционный цикл. Мы создаем разумное существо путем абстракции, не представляя, как оно будет развиваться в будущем. Мы могли бы попытаться направить его с помощью морали и имплицитных убеждений, но нет никакой гарантии, что они будут придерживаться их в будущем. Даже если бы они были связаны, они могли бы просто создать другое существо, которого не было, и, вероятно, также произошел бы взрывной рост.
  4. Мы берем наши знания из проектирования машин и используем их для расширения человеческого интеллекта, устранения биологических ограничений на вычисления, хранения и поиска информации и предоставления людям машинного интеллекта. Этот процесс порождает еще одну революцию и делает создание независимого ОИИ менее привлекательным и потенциально менее опасным.

Этот последний сценарий потенциально наиболее интересен для меня. Хотя сценарий 2) может привести к мысли об обществах, управляемых ИИ, если люди уступят свое лидерство машинам, такой сценарий маловероятен для нас. Прежде чем это произойдет, мы, вероятно, много думали о том, как предотвратить это, даже если бы это было возможно.

Первый сценарий может сосуществовать с последним, потому что попытки лучше понять человеческий мозг позволят нам как создавать человекоподобные машины, так и улучшать людей. Это исследование уже ведется, но это вопрос масштаба, чтобы иметь возможность собирать и обрабатывать всю эту информацию.

Третий сценарий кажется мне очень маловероятным, так как полное понимание чего-либо ускользало от нас долгое время. Мы соглашаемся на достаточно хорошее, но я не ожидаю, что мы придем к этому сценарию через очень долгое время, поэтому явное создание идеального интеллекта, вероятно, невозможно в ближайшие 50 лет.

Вернемся к четвертому сценарию. Именно здесь человечество получит наибольшую выгоду. Мы можем не только устранить биологические ограничения нашего интеллекта и творчества, мы также можем повысить биологическую производительность и потенциально увеличить продолжительность нашей жизни, по крайней мере, когнитивно.

Мы должны иметь возможность увеличить нашу память, используя имплантаты, которые точно сохраняют информацию. Это означает, что вы можете преобразовать биологическую память в цифровую память. Если предположить, что не существует принципа, подобного Гейзенбергу, который запрещает вам читать или писать из биологической памяти, не изменяя ее, мы должны быть в состоянии преобразовать биологическую память в цифровую. Учитывая количество нейронов и количество синапсов, это проблема, подобная подсчету количества звезд в галактике или песчинок на планете Земля. Это означает, что, хотя сегодня это невозможно, это может стать возможным при наличии достаточного количества технологических прорывов. Квантовые компьютеры, например, могли бы упростить некоторые из этих вычислительно сложных задач.

Физический акт получения изображений мозга должен быть радикально улучшен. Один кубический сантиметр мозга мыши занимал 2 петабайта в более чем 100 миллионах изображений. Тем не менее, это технологическое препятствие, которое будет становиться все легче по мере развития технологий.

По сути, мы работаем с разумом обезьяны возрастом более 100 000 лет, и это немалое чудо, что мы создали все, что у нас есть, и стали единственным видом, который достаточно эволюционировал, чтобы подумать о создании искусственной жизни и беспокоится о моральных и этических принципах ( и экзистенциальные) последствия, которые повлекут за собой. Будем надеяться, что мы готовы принять вызов.