Да, это разные вещи

Общий искусственный интеллект (AGI) - это Святой Грааль исследований в области искусственного интеллекта. Это мечта многих компаний, занимающихся ИИ, таких как DeepMind и OpenAI. По определению AGI - это искусственная система, способная выполнять любую интеллектуальную задачу, которую может выполнить человек. Эти задачи включают в себя рутинные задачи, такие как вождение автомобиля и уплата налогов, и более сложные задачи, такие как написание стихов, сочинение музыки и обсуждение философии. С другой стороны, сознание рассматривается как субъективный опыт от первого лица. Можно также назвать это осознанием себя и окружающих.

Введение

В большинстве разговоров, связанных с ОИИ, часто возникает вопрос, станем ли мы в конечном итоге такими, как Терминаторы или Матрица. Точно так же идеи, подобные гипотезе скрепки, рекурсивному самосовершенствованию и захвату ИИ, были популяризированы как экзистенциальные риски со стороны ИИ. Иногда эти идеи подразумевают предположение, что ОИИ будет иметь некоторую форму сознания или способности к самодействию. В этой статье я хочу представить несколько аргументов в пользу того, почему это может быть не так, а общий искусственный интеллект может никогда не быть сознательным.

Одно из популярных представлений о сознании состоит в том, что это эмерджентное свойство вещества мозга, т. Е. сознание возникает в результате сложных нейрохимических взаимодействий между различными частями мозга, взаимодействующими на квантовом уровне. Это понимание может легко привести к выводу, что достаточно сложная система AGI может стать осознанной. Но в этой позиции много предположений.

Аргумент дуализма

Первое предположение о том, что сознание возникает из материи мозга, вызывает многовековые споры о дуализме тела и разума. Независимо от того, верна эта философская позиция или нет - поскольку ее проверка выходит за рамки науки, - научное сообщество предположило, что нейрохимические реакции могут все объяснить.

Теперь вопрос о том, истинен ли дуализм или нет, остается неубедительным и спорным. Итак, это подводит нас к моему первому аргументу: если истинен дуализм, то у нас, возможно, никогда не будет искусственного сознания.

Компоненты сознания

Другое предположение в этом тезисе состоит в том, что интеллект ведет к сознанию. Если мы наблюдаем за царством животных, мы можем смутно соотнести интеллект животных с их сознанием. Но здесь опять две проблемы: мы не знаем, есть у животных сознание или нет. И во-вторых, корреляция не обязательно означает причинную связь.

Некоторые философы также утверждают, что сознание - это не просто интеллект, но оно имеет множество компонентов, таких как чувство, восприятие, свободная воля и т. Д. Таким образом, колоссальная языковая модель может не иметь чувств или других аспектов сознания. , которые есть у людей. Таким образом, моим вторым аргументом было бы следующее: Если для сознания требуется больше компонентов, чем просто интеллект (если мы не создадим эти компоненты явно), AGI может никогда не быть сознательным.

Углеродный шовинизм

Из современной науки мы знаем, что жизнь на Земле основана на углероде, то есть в основном состоит из органических соединений. Это понятие известно как углеродный шовинизм. В своей книге Life 3.0 Макс Тегмарк утверждает, что было бы глупо предполагать, что жизнь во всей Вселенной может быть основана только на углероде. Он продолжает, если мы сможем построить искусственное сознание, оно будет считаться формой жизни на основе кремния. (Хотя он явно не связывает жизнь с сознанием, я бы сделал это предположение, основываясь на остальном тексте книги.)

Хотя позиция Тегмарка является обоснованной философской позицией, у нас нет достаточных данных для подтверждения этой позиции. У нас есть только одна точка данных, и можно привести веские аргументы как за, так и против углеродного шовинизма. Итак, исходя из этого, мой третий аргумент: если верен углеродный шовинизм, мы, возможно, никогда не сможем воспроизвести сознание в кремнии. Таким образом, AGI может не осознавать.

Пределы нашего понимания

И последнее, но не менее важное: я хочу подчеркнуть ограниченность нашего нынешнего понимания сознания. Если мы примем позицию, согласно которой нейрохимическое взаимодействие материи мозга может объяснить сознание, мы придем к трудной проблеме сознания. Интегрированная теория информации пытается использовать нисходящий подход для понимания поведения сознания.

Более того, у нас нет научного инструмента, вроде измерителя сознания. Мы помещаем сознательную систему в коробку и получаем значение от 0 до 1. И у нас нет надежного научного метода, который мы применяем к физической системе, чтобы получить значение сознания.

Тест Тьюринга - это пример метода проверки сознания. Однако это не очень надежный метод и имеет множество недостатков. Например, если мы попробуем тест Тьюринга на модели GPT-3, он может пройти тест. Тест на поворот также открывает еще одну дискуссию о философских зомби. Идея состоит в том, что достаточно сложная интеллектуальная система может вести себя как сознательная система, не будучи на самом деле сознательной.

Таким образом, четвертый аргумент можно сформулировать так: если у нас нет надежной системы для измерения и тестирования сознания физической системы, основанной на других идеях, представленных в этой статье, мы не можем в достаточной степени заключить, что ОИИ будет сознательным.

Вывод

В этой статье я представил основу для анализа вопроса о сознательности общего искусственного интеллекта. Моя цель не состоит в том, чтобы спорить с возможностью осознания ОИИ в будущем; вместо этого я хотел поделиться некоторыми аргументами и связанными с ними предположениями. И если ваше мировоззрение считает эти предположения правдой, вы можете сделать вывод, что наличие ОИИ в сознании невозможно.