Вы можете прочитать эту статью в моем блоге, если вы предпочитаете средний уровень.

Одна из наиболее неправильно понимаемых идей, которая загрязняет умы популярных интеллектуалов, многие из которых, по-видимому, привыкли к статистике и машинному обучению, - это потенциальная или угроза, которую разработка общего искусственного интеллекта (ОИИ) представляет для нашей цивилизации.

Этот миф проистекает из двух неправильных представлений о реальности.

Одно из таких недоразумений связано с уточнением и расширяемостью текущих алгоритмов машинного обучения и аппаратного обеспечения FPA, однако обсуждение этого всегда приводит к спорам людей «а что, если» (например, что, если дешевые квантовые компьютеры с очень эффективным вводом-выводом станут вещью?), Таким образом, , Я не буду здесь придерживаться этой мысли.

Второе недоразумение, которое легче развенчать, связано с практичностью ОИИ. Если предположить, что наши самые смелые мечты об оборудовании сбудутся… сможем ли мы создать AGI, и будет ли этот AGI на самом деле иметь какое-либо влияние на мир, кроме забавного любопытства?

1. У нас уже есть ОИИ

AGI здесь, на момент написания этой статьи насчитывалось 7 714 576 923 алгоритмов AGI, находящихся на нашей планете. Вы можете использовать подавляющее большинство из них менее чем за 2 доллара в час. Они могут выполнять подавляющее большинство интеллектуальных задач, которые могут быть четко определены людьми, не говоря уже о том, что они могут сами изобретать новые задачи.

Они способны создавать новые модифицированные версии самих себя, обновлять свои собственные алгоритмы, делиться своими алгоритмами с другими AGI и изучать новые сложные навыки. Кроме того, они энергоэффективны, вы можете оптимально поддерживать один в рабочем состоянии за 5–50 долларов в день в зависимости от местоположения, что намного меньше, чем средняя ферма серверов, используемая для обучения сложной модели машинного обучения.

Это довольно очевидное наблюдение, но, тем не менее, его следует отметить. Никто никогда не жаловался на острую нехватку людей в мире. Если бы я спросил кого-нибудь, что, по их мнению, окажет огромное положительное влияние на будущее, немногие ответят на вопрос о значительном увеличении рождаемости.

Итак, если мы согласны с тем фактом, что 70 миллиардов человек не намного лучше, чем 7 миллиардов, то есть добавление мозгов не масштабируется линейно… почему мы предполагаем, что искусственный мозг может помочь?

Если мы не согласны с этим предположением, то что мешает ценности человеческого умственного труда взлететь до небес, если он пользуется таким спросом? Что мешает сотням миллионов людей с совершенно средним мозгом найти работу?

Что ж, вы можете возразить, дело в качестве интеллекта, не все люди интеллектуально равны. Наличие нескольких миллионов искусственных Джо мало чем поможет миру, но наличие даже нескольких десятков фон Неймана имело бы огромное значение. Или, что еще лучше, речь идет об ИИ, который умнее любого человека, с которым мы когда-либо сталкивались.

Это подводит меня ко второму пункту.

2. Определение интеллекта

Как определить разумного человека или интеллект в целом?

Тест IQ - это стандартная мера человеческого интеллекта, используемая социологами и психологами.

Однако алгоритмы могут легко превзойти людей в тестах на IQ в течение очень долгого времени, и они могут делать это надежно с все большим количеством дополнительных ограничений.

Проблема здесь в том, что тесты IQ предназначены для людей, а не для машин.

Но давайте предположим, что мы разработали тест на «коэффициент машинного интеллекта» (MIQ), который наши потенциальные друзья AGI не могут использовать свои льготы, чтобы «обмануть».

Но как нам разработать его, чтобы избежать ловушек теста IQ человека, когда его доводят до крайностей? Наша цель, в конце концов, не в том, чтобы «оценивать» алгоритмы с помощью этого теста в застойной пустоте, а в том, чтобы улучшить их таким образом, чтобы более высокие оценки в тестах означали, что они в целом более «умны».

Другими словами, этот тест MIQ должен быть очень эффективным при выявлении выбросов интеллекта.

Если мы вернемся к тесту IQ, мы заметим, что он довольно неточен на тонких концах распределения.

Вы когда-нибудь слышали о Мэрилин вос Савант, Крисе Лангане, Теренсе Тао, Уильяме Джеймсе Сидисе или Ким Унг Ён? Что касается тестов IQ, это самые интеллектуальные представители нашего вида в настоящее время.

Хотя я не стану подвергать сомнению их предполагаемый интеллект, их достижения довольно не впечатляют. Спуститесь по списку людей с высоким IQ, и вы в основном найдете довольно посредственных людей с несколькими очень интересными причудами (могут быстро решать уравнения, могут говорить на многих языках, могут запоминать многие вещи и т. Д.).

Несомненно, есть совпадения между людьми, которые создали впечатляющие инженерные разработки, разработали фундаментальные эксперименты, изобрели теории, объясняющие различные природные явления, стали великими лидерами и т. Д. (Для краткости назовем этих людей «умными»).

Но IQ не является предиктором этого, это скорее фильтр. Вы можете почти гарантировать, что очень умный человек (с точки зрения общества) будет иметь высокий IQ, но наличие самого высокого IQ даже не гарантирует, что вы попадете в 0% самых умных людей.

Таким образом, даже если нам каким-то образом удастся создать этот MIQ, который будет таким же хорошим индикатором того, умна ли машина, как IQ для людей, он все равно будет плохим критерием сравнения.

Мы могли бы сказать: «Интеллектуальный алгоритм должен иметь MIQ не менее 100», но вряд ли мы сможем сказать: «Наличие MIQ 500 означает, что алгоритм обладает сверхчеловеческим интеллектом».

Проблема в том, что мы недостаточно умны, чтобы дать определение умным. Если определение интеллекта действительно существует, нет четкого пути к его выяснению.

Хуже того, я бы сказал, что определение интеллекта очень маловероятно. То, что я мог бы считать умным, не то, что вы считали бы умным ... наши определения могут в некоторой степени совпадать, мы, вероятно, сможем придумать общее определение того, что составляет «средний» интеллект (например, тест IQ), но они будет расходиться к хвосту.

Большинство людей согласятся с тем, что кто-то в какой-то мере умен, но никогда не согласятся с ним в списке «самых умных людей в мире».

Вы можете сказать, что это действительно может быть правдой, но мы можем судить о людях по их достижениям. Мы можем целый день спорить о том, является ли какой-нибудь человек с высоким IQ, например Крис Ланган, шарлатанским нумерологом или неправильно понятым богом. Но мы все можем согласиться с тем, что такие люди, как Ричард Фейнман, Том Мюллер или Алан Тьюринг, достаточно умны, основываясь только на своих достижениях.

Это подводит меня к третьему пункту.

3. Проверка интеллекта

Проблема нашего гипотетического сверхчеловеческого ОИИ, поскольку мы не можем придумать простой тест для определения его интеллекта, заключается в том, что он должен доказать свою способность.

Это можно сделать тремя способами:

  1. Используйте предыдущие данные и посмотрите, может ли «ИИ» работать с этими данными так же или лучше, чем люди.
  2. Используйте очень хорошие симуляции мира и посмотрите, сможет ли «ИИ» достичь сверхчеловеческих результатов, соревнуясь внутри упомянутых симуляций.
  3. Дайте «ИИ» ресурс, чтобы он мог проявить себя в реальном мире и действовать так же, как и человек (со всеми преимуществами компьютера вместо мозга).

Подход номер (1) - это то, как мы в настоящее время обучаем алгоритмы машинного обучения, и он имеет ограничение, позволяющее нам тренироваться только на очень ограниченных задачах, когда мы знаем все возможные «пути» после завершения задачи.

Например, мы можем обучить «ИИ» обнаруживать рак на наборе данных медицинской визуализации, потому что затем довольно легко взять всех наших испытуемых и проверить, «действительно» ли у них рак, используя более дорогие методы или выжидание.

Довольно сложно обучить «искусственного интеллекта», который лечит рак, поскольку в этой задаче есть «а что, если», которые невозможно исследовать. Вариантов лечения безграничны, и, учитывая, что лечение не удается (человек умирает от рака) ... мы не можем вернуться назад и снова попытаться увидеть, какое было «правильное» решение.

Я написал подробнее об этой проблеме здесь, если вам интересно в ней немного больше разобраться. Но я предполагаю, что большинство читателей, интересующихся статистикой и / или машинным обучением, уже сталкивались с этой проблемой бесчисленное количество раз.

Это может быть решено с помощью (2), который создает моделирование, в котором мы можем проверить бесконечное количество гипотез. Единственная проблема в том, что создание симуляций довольно затратно в вычислительном и теоретическом отношении.

Вернемся к нашему предыдущему примеру лечения рака. «ИИ», который в настоящее время является «передним краем» моделирования биомолекулярной динамики, позволяет моделировать единственный ген среднего размера в нереактивном веществе в течение нескольких наносекунд, создавая определенные разумные предположения, которые ускоряют нашу симуляцию, делая ее немного менее реалистичной, на суперкомпьютере стоимостью несколько десятков миллионов долларов… Да, вся идея симуляции может не сработать в конце концов.

По совпадению, большинство явлений, которые можно легко смоделировать, также являются явлениями, которые либо очень упрощены, либо попадают в категорию (1), поймите.

Таким образом, нам остается подход (3), предоставляющий нашему гипотетическому ОИИ физические ресурсы для воплощения его идей, изменяющих человечество, на практике. Но ... кто отдаст эти ресурсы? На основании каких доказательств? Особенно, когда здесь говорится о том, что нам, возможно, придется опробовать миллионы этих AGI, прежде чем один из них действительно станет чрезвычайно умным, как мы это делаем с текущими моделями машинного обучения.

Проблема, конечно, в том, что ресурсы конечны и контролируются людьми (не в том смысле, что они застойны, но мы не можем создавать бесконечное количество ресурсов по запросу, это требует времени). Ничего особенного не является бесплатным.

Это подводит меня к четвертому пункту о бесполезности ОИИ.

4. Проблема постепенного инструментального строительства.

Процесс, с помощью которого человечество продвигается вперед, - это, если кратко изложить его, создание новых инструментов с использованием предыдущих инструментов.

Люди в бронзовом веке не могли плавить сталь, потому что у них не было интеллекта, чтобы «понять это», а потому, что у них не было инструментов для достижения желаемой температуры, оценки правильной смеси железа и углерода, добывать железо из земли и создавать торговые сети, необходимые для обеспечения жизнеспособности всего процесса.

Поскольку инструменты из бронзы помогли нам создать лучшие инструменты из бронзы, которые помогли нам открыть более легкие для добычи месторождения железа, построить корабли и караваны для торговли материалами, необходимыми для обработки указанного железа и строительства лучших плавильных заводов, мы внезапно смогли выплавить сталь. Это позволяет нам создавать все более качественные инструменты из стали… и т. Д. И т. Д.

Человеческая цивилизация развивается не за счет выращивания более умных и умных людей, а за счет создания все более совершенных инструментов.

Постепенные знания, которые мы приобретаем, в основном связаны с нашими инструментами. Мы не владеем нашими знаниями физики элементарных частиц или химии для нескольких умных парней, которые «поняли это». Мы обязаны этим годам кумулятивного создания инструментов, которые привели нас к возможности создавать инструменты для проведения экспериментов, которые дали нам понимание того самого мира, в котором мы живем.

Уберите Макса Планка, и вы могли бы отбросить квантовую механику на несколько лет назад, но за довольно короткое время кто-то, вероятно, понял бы то же самое, что и он. Это довольно очевидно, если вы посмотрите на множественные открытия на протяжении всей истории, то есть на людей, открывающих одно и то же примерно в одно и то же время, не зная о работах друг друга.

Если Макс Планк родился среди племени охотников-собирателей в период неолита, он мог бы стать особенно умным охотником или шаманом ... но для него практически невозможно иметь инструменты, которые позволили бы ему делать те же открытия о природе, что и 20-й век. Доска.

Однако до некоторой степени процесс создания инструмента тормозится временем и пространством. Если бы мы решили создать более эффективную батарею, или более точный электронный микроскоп, или более точный радиотелескоп, мы были бы ограничены не нашим интеллектом, а тысячами часов, необходимыми нашим фабрикам для создания необходимых более совершенных инструментов. чтобы построить лучшие фабрики, чтобы построить еще лучшие инструменты, необходимые для строительства еще лучших заводов, чтобы построить еще более удивительные инструменты… и т. д.

Тысячи удивительных открытий, машин и теорий находятся в пределах нашей досягаемости, и одним из самых узких мест является не интеллект, а ресурсы.

Независимо от того, насколько продуман ваш межзвездный космический корабль, вам все равно понадобятся редкие металлы, радиоактивные материалы, труднообрабатываемое углеродное волокно и оборудование, чтобы собрать все это воедино. Это довольно сложно, поскольку мы коллективно решили, что эти ресурсы гораздо лучше потратить на портативные приспособления для мастурбации, забавные вещи, которые можно наклеить на наши тела, и гигантские бомбы на случай, если нам нужно убить все человечество.

Итак, может ли гипотетический сверхразумный ОИИ помочь в этом процессе создания инструментов? Несомненно. Но, вероятно, в конечном итоге возникнут те же узкие места, с которыми сталкиваются люди, которые хотят создавать удивительные вещи сегодня, другие люди, не желающие отказываться от своих игрушек, и физическая реальность, требующая времени для формирования.

Не поймите меня неправильно, я не обязательно обвиняю людей в том, что они решили сосредоточиться на 3-й печати сложных водостойких фаллосоподобных структур вместо того, чтобы использовать эти ресурсы для исследования сенолитических наноботов. Как я уже упоминал ранее, определить интеллект сложно, как и определить прогресс. То, что может показаться «удивительным» для AGI, читающего эту статью, может быть довольно скучным или глупым для нескольких других миллиардов AGI.

В заключении

  • Общий искусственный интеллект - это то, чем у нас много здесь, на Земле, большая его часть тратится зря, поэтому я не уверен, что разработка ОИИ на основе человеческой модели нам очень поможет.
  • Сверхчеловеческий общий искусственный интеллект - это не то, что мы можем определить, поскольку никто не придумал всеобъемлющего определения интеллекта, который был бы самодостаточным, а не требовал бы проб и ошибок в реальном мире.
  • Сверхчеловеческий общий искусственный интеллект не является чем-то, что мы можем протестировать, поскольку мы не можем собрать статистически достоверные наборы обучающих данных для сложных задач, и мы не можем позволить себе тестировать методом проб и ошибок в реальном мире.
  • Даже если каким-то образом был создан сверхчеловеческий искусственный интеллект, невозможно знать, что он будет нам очень полезен. Возможно, что разум - это не самое большое препятствие для наших текущих проблем, а, скорее, время и ресурсы.

Если вы думаете, что для вашего конкретного бизнес-кейса может потребоваться ОИИ, не стесняйтесь нанять одного из 3 миллиардов человек, живущих в Юго-Восточной Азии, который с радостью поможет вам с задачами за несколько долларов в час. Скорее всего, это будет намного дешевле, Amazon уже делает это с помощью Alexa, поскольку это оказывается несколько дешевле, чем делать это с помощью машинного обучения.

Значит ли это, что я «против» революции машинного обучения?

Нет, черт возьми, я был бы идиотом и лицемером, если бы думал, что машинное обучение не приведет к огромному прогрессу человечества в следующие десятилетия.

Я специально хотел работать в области общего машинного обучения. Я думаю, что это то место, где мы сможем достичь в следующие 10 или 20 лет с точки зрения захватывающих событий.

Но мы должны прекратить романтизировать или запугивать бессмысленную концепцию человеческого интеллекта, производимого программным обеспечением. Вместо этого мы должны думать о машинном обучении (или «ИИ», если вы действительно должны так его называть) как об инструменте в нашем огромном арсенале инструментов мышления.

Машинное обучение - это замечательно, если вы примените его к набору проблем, которые оно хорошо решает, и если мы попытаемся расширить этот набор проблем за счет совершенствования, сбора и построения алгоритмов, мы сможем совершить некоторые удивительные подвиги. Но идея о том, что алгоритм, который может имитировать человека, будет особенно полезен для нас, так же глупа, как идея о том, что молоток, который также служит чайной ложкой, произведет революцию в мире строительства. Инструменты созданы для того, чтобы хорошо выполнять свою работу, не более того.

И кто знает, может быть, когда-нибудь мы объединим некоторые из этих потрясающих алгоритмов, которые мы разработали, добавим несколько дополнительных битов, защитим их внутри реалистично выглядящего тела робота и поймем, что созданная нами «вещь» вполне может быть человек ... тогда он может присоединиться к нам и другим миллиардам людей, будучи в основном бесполезным при выполнении чего-либо, имеющего реальную ценность.

Если вам понравилась эта статья, вам также могут понравиться: