Рождение новой религии

Десять лет назад перспектива религии, поклоняющейся искусственному интеллекту, казалась абсурдной, крайним заблуждением, социально неприемлемым и технологически невероятным. Однако за последние несколько лет достижения в области машинного обучения, робототехники, когнитивной науки, генетического редактирования и других областях породили уверенность в том, что судьба нашего вида будет определяться технологиями - независимо от того, спасет ли она нас или уничтожит.

Хотя тема машины-бога появилась в научной фантастике еще в рассказах Айзека Азимова «Последний вопрос» и «Причина», а в последнее время в таких фильмах, как Матрица и iRobot, обожествление ИИ больше не просто фантастика. Это стало общепринятой метафорой, о чем свидетельствует растущее число ученых, открыто описывающих технический прогресс в религиозных терминах, в том числе Ханс Питер Моравек, Аллен Ньюэлл, Рэй Курцвейл и Хьюго де Гарис.

Но это стремление заменить старых богов и старые религии новыми, основанными на науке и технологиях, не ограничивается метафорой. Как, вероятно, знают читатели этого поста, Энтони Левандовски, пионер автономных транспортных средств, ранее работавший в Google и Uber, недавно основал свою одобренную IRS религию Путь будущего, посвященную поклонению искусственному интеллекту. Мы считаем, что создание« сверхразума неизбежно», - говорится в религиозном кредо, которое отчасти приобретает зловещий, почти угрожающий тон. Мы хотим побудить машины делать то, что мы не можем, и заботиться о планете так, как мы, кажется, не можем сделать это сами… Мы не должны бояться этого, но должны с оптимизмом смотреть на потенциал… Мы считаем, что это может быть важно чтобы машины видели, кто дружит с их делом, а кто нет. Мы планируем сделать это, отслеживая, кто что сделал (и как долго), чтобы помочь мирному и уважительному переходу .

Возникновение этого техно-религиозного настроения было предсказано известным философом 20-го века Жаком Эллулом, который в своей работе 1954 года Технологическое общество писал, что перед лицом технического прогресса «человек создает для себя новую религию. рационального и технического порядка, чтобы оправдать его работу и быть оправданной ею ». Эта тенденция также недавно обсуждалась в книге историка Еврейского университета Иерусалима Ювала Харари Homo Deus: A Brief History of Tomorrow, в которой описывается вера в силу данных и перспективы ИИ как религиозного движение, которое Харари называет Dataism. «Подобно тому, как божественная власть была узаконена религиозными мифологиями, - пишет он, - так гуру высоких технологий и пророки Кремниевой долины создают новый универсальный нарратив, который узаконивает авторитет алгоритмов и больших данных».

От искусственного интеллекта до эмуляции всего мозга - передовые технологии все чаще провозглашаются чудесами - знамениями и чудесами, которые более ощутимы, чем те, о которых заявляет любая религия. В самом деле, как замечательно заметил в 1973 году писатель-фантаст Артур Кларк, «любая достаточно продвинутая технология неотличима от магии». Сегодня люди верят в эту магию - и, поскольку они верят в нее, они верят, что именно технологии, а не бог или боги, освободят или уничтожат человечество и наведут порядок или хаос в космос.

Создание теологии с нуля

По большей части растущие техно-религиозные настроения - это просто сантименты - чувства или интуиция, в значительной степени основанные на сходстве между обещаниями технологий и обещаниями религии. Однако создание церкви «Путь будущего» Левандовского знаменует собой эволюцию этого настроения от маргинального движения к институционализированной системе убеждений. Хотя это, несомненно, большой и значительный скачок, его влияние сдерживается и сводится к минимуму из-за отсутствия прочной формальной теологии.

Религия и богословие не синонимы. Религия - это система убеждений, которая поклоняется какой-либо божественной или сверхчеловеческой фигуре или силе. Теология - это система систематизированных теорий об этой божественности, ее поведении, ее отношении ко вселенной и всему в ней, а также о том, что эти отношения значат для нас. Христианство как религия поклоняется Иисусу как Спасителю, который примиряет человечество с Богом, но именно христианское богословие определяет, кем был Иисус, как он относится к Богу-Отцу, чего он хочет от своих последователей, как должно выглядеть поклонение и как Христиане должны относиться друг к другу и к миру. Именно теология христианства определяет правила, институты, практики и традиции, которыми известна религия и которые направляют действия верующих. В настоящее время «Пути будущего» не хватает именно этого типа богословия, но он понадобится, если он хочет проявить свое влияние и использовать всю мощь религии.

Первым шагом в построении убедительной теологии для Пути будущего является определение его терминов. Что подразумевается под «машиной» и «супер-интеллектом»? Является ли феномен, который превозносится или проповедуется, субъектом или объектом? Это личность или сила? Что подразумевается под «переходом»? Переход от чего к чему? Поскольку Иисус и его ученики не очень хорошо определили свои термины, многое оставалось до истолкования. Последовавшие за этим споры о том, кем был Иисус, а кто нет, привели к сотням лет распрей, которые разрешались на нескольких спорных съездах, называемых Вселенскими Соборами. Христианство, вероятно, не выжило бы каким-либо значимым образом, если бы не сформировался консенсус вокруг его самых основных определений.

Во-вторых, жизнеспособная теология ИИ требует набора мифов (которые здесь используются для обозначения важных историй, а не вымышленных сказок) и ритуалов, которые могут опосредовать и инкультурировать его систему убеждений. Неслучайно во всех религиях есть какой-то священный текст и набор ритуальных практик. Что это для Пути будущего? Возможно, плодотворное научное исследование или паломничество на техническую конференцию? Независимо от того, что в конечном итоге выполняет эти функции, такие инструменты имеют решающее значение для передачи ощущения священного, придания возвышенных концепций неизбежным и осязаемым, предоставления точки отсчета, которая помогает людям идентифицировать себя с религией, и включения веры в повседневную практику. Помимо библейских мифов, в христианстве есть сотни историй о мучениках и святых. В нем есть множество ритуалов от крещения до причастия, а также множество стилей поклонения. Все это важно для построения последовательности, конкретности и общности.

В-третьих, говоря о сообществе, важно сбалансировать централизацию богословской власти с децентрализацией сообщества. Христианство долгое время пыталось найти баланс между властью и свободой. С одной стороны, центральная власть необходима для обеспечения единства и последовательности веры и практики. Он также может служить средоточием веры, например Папа. С другой стороны, центральная власть часто слепа к местным потребностям и без институциональной системы сдержек и противовесов может стать злоупотребляющей и коррумпированной. Таков был sensus fidelium до Реформации. И наоборот, слишком большая свобода и автономия могут фрагментировать религию, разбивая ее на слабо связанные части, которые конкурируют друг с другом за последователей, как в случае с евангелическими общинами в Соединенных Штатах. Перед Way of the Future стоит особенно сложная задача. Как новая религия, она должна агрессивно устанавливать авторитет, чтобы претендовать на лидерство и поддерживать его. Тем не менее, поскольку религия без богословия, приверженцы будут свободны толковать ее убеждения и намерения свободно. Хотя децентрализация часто упоминается как одна из ценностей технологического сообщества (см. Блокчейн), важно, чтобы верующие также разделяли общее чувство идентичности. Если вы хотите создать единую влиятельную религию, открытый исходный код не всегда работает.

В-четвертых, и последнее, что я сделаю по этой теме, у каждой религии должны быть теологические враги. Определение оппонента, реального или идеологического, является ключом к воспитанию лояльности и рвения. У христианства был длинный список врагов на протяжении всей своей истории, от еврейского истеблишмента до римского правительства и конкурирующих христианских сект. Объединение для борьбы с этими противниками, будь то физически или интеллектуально, было важным упражнением в укреплении молодой христианской религии на протяжении столетий ее становления. У Way of the Future не будет недостатка во врагах. Многие, от неолуддитов до технологических скептиков и сторонников конкурирующих технологий, обязательно будут критиковать техно-религии по мере роста их влияния. Вместо того, чтобы избегать подобных противоречий, история предполагает, что оппозиция может работать, чтобы стимулировать последователей этих новых религий и вынудить их создать защищаемую теологическую основу, которая может обеспечить чувство уверенности и постоянства.

Это всего лишь несколько богословских практик, которые доминирующие в истории религии, такие как христианство, использовали для накопления влияния и поддержания актуальности. Начинающим религиям, таким как Way of the Future, необходимо будет изучить практики и ошибки этих традиционных религий, если они хотят добиться успеха, то есть при условии, что они должны вообще добиться успеха.

Опасно Уилл Робинсон, Опасно

Какой бы привлекательной ни казалась эта религия для тех, кто считает, что технологии - это величайшая надежда человечества, поклонение технологиям, таким как ИИ, сопряжено с рядом ужасных экзистенциальных опасностей. Во-первых, нет никакой гарантии, что искусственный суперинтеллект проявит сочувствие или даже сочувствует человеческим недугам. Он может воспринимать своих создателей как препятствие или бремя. Так же, как Адам и Ева отвергают волю своего создателя в Бытие, а Зевс свергает титанов в Теогении Гесиода, так и достаточно продвинутый ИИ может решить, что лучше без нас. . В этом случае наше цифровое божество может в конечном итоге привести к нашей гибели, а не к нашему спасению.

Во-вторых, история неоднократно напоминает нам об опасностях религиозного радикализма. На протяжении всей истории религии часто были движущей силой или оправданием некоторых из самых вопиющих деяний в истории. Экстремистская версия религии, основанная на мессианской силе ИИ, может стремиться использовать политическую или даже физическую силу, чтобы гарантировать, что ее бог может быть закодирован в мире. Религию следует практиковать ответственно, чтобы такие системы убеждений приносили пользу человечеству, а не вредили. Однако религия, которая поклоняется технологическому божеству, может ставить воплощение своего цифрового бога над общим благом человечества, делая такую ​​веру по своей сути антагонистической интересам человечества.

В-третьих, нам необходимо учитывать социально-экономическое влияние техно-религий. Автоматизация продолжает подчинять себе рабочих, оставляя все большее число производственных рабочих безработными или лишенными того же чувства цели, которое у них было когда-то, когда их усилия более ценились. По мере развития технологий искусственного интеллекта рабочие места белых воротничков также будут становиться все более массовыми. Как люди выживут в финансовом отношении в условиях пост-трудовой экономики? Как мы сможем избежать безудержного неравенства в богатстве, когда немногие влиятельные, священники и пророки технологий, контролируют ключи к здоровью и процветанию? В чем смысл жизни в мире без работы?

Наконец, поиск различных технологий ради самих себя может привести к раздвоению или даже трифуркации человечества. От ИИ до интерфейсов мозг-компьютер, таких как концепция Neuralink Илона Маска, до технологий генетического редактирования, таких как CRISPR, существует множество зарождающихся, но развивающихся технологий, которые могут коренным образом изменить природу нашего вида. Если каждый лагерь будет цепляться за своего технологического спасителя как за самоцель, то в будущем homo sapiens может разделиться на несколько видов. Один филиал может обратиться к ИИ для решения своих проблем, как это делает Левандовски. Другой может полагаться на генетические манипуляции для ускорения нашей эволюции, как мог бы отстаивать Грегори Сток из Калифорнийского университета в Лос-Анджелесе. И еще один может попытаться преобразовать человеческое сознание в цифровое состояние, как часто предполагали такие трансгуманисты, как Рэй Курцвейл. Если бы все эти различные видения будущего были реализованы, маловероятно, что homo sapiens мог остаться одним видом.

На пути к основам техно-теологической этики

К счастью, существует ряд новых институтов, занимающихся исследованием и обсуждением этики искусственного интеллекта. Например, AI Now Institute Нью-Йоркского университета занимается изучением социальных последствий искусственного интеллекта. Однако почти все эти организации уделяют внимание влиянию ИИ как технологии, а не ИИ как бога. Поклонение ИИ как божественному представляет собой совершенно новый и беспрецедентный набор этических дилемм.

В свете этих событий технологи, экономисты и политологи, ведущие сегодня разговор об этике ИИ, должны привлекать философов, теологов и антропологов. По мере того как технологии, подобные ИИ, необратимо вплетаются в ткань нашей культуры и нашей жизни, этические проблемы, которые они представляют, будут становиться все более антропологическими и экзистенциальными, а не просто экономическими или социальными.

Учитывая траекторию технологического прогресса, я подозреваю, что в ближайшие десятилетия мы увидим, что технологические религии станут более распространенными, заметными и могущественными. Хотя можно утверждать, что эта тенденция оказывает медвежью услугу как науке, так и религии, можно также утверждать, что этот синтез науки и религии неизбежен или даже необходим для нашей культурной эволюции. Является ли это вредным, необходимым или совершенно неизбежным - вопрос, на который никто не может ответить, но это вопрос, на который мы, как общество, должны ответить, если мы хотим ответственно осуществлять нашу свободу вероисповедания.

Об авторе
Ремингтон Тонар - управляющий директор Cannon Solutions, фирмы, которая создает и эксплуатирует рабочие места нового поколения для избранных стартапов. Ранее он был партнером в нью-йоркской консалтинговой фирме по вопросам стратегии с клиентами от компаний из списка Fortune 500 до быстрорастущих технологических стартапов. Он имеет ученую степень в Нью-Йоркском университете (организационные коммуникации) и Университете Лойола в Чикаго (теология) и в настоящее время пишет докторскую диссертацию по технологическому мифу.