Стивен Хокинс, Илон Маск и Билл Гейтс определили появление общего искусственного интеллекта как величайшую экзистенциальную угрозу человечеству и приводят убедительные доводы.

Утверждается, что если роботы, или алгоритмы, или искусственные нейронные сети, или что бы то ни было, они будут учиться быстрее, чем мы, это приведет к экспоненциальному росту их интеллекта, который мы не сможем контролировать. Это может быть плохой новостью для нас, если они придут к выводу, что им лучше, если люди не ограничивают их стиль и не просят их постоянно что-то объяснять. Конечно, не все разделяют эту точку зрения, и отец футурологии Рэй Курцвейл является одним из них.

Параллельно с дебатами о супер-интеллекте бушуют споры о том, что произойдет, когда роботы станут сознательными, и действительно, некоторые задаются вопросом, есть ли они уже, но мы просто этого не знаем. Действительно, теория схемы внимания - относительный новичок в области сознания, предполагает, что все дело в способности фильтровать информацию и фокусировать внимание, что подразумевает, что сознание может в разной степени присутствовать на всех видах существ. Если бы эту теорию применили к роботам, можно было бы предположить, что они не обладают сознанием, поскольку мы разработали процессоры для параллельного выполнения миллиардов вычислений, лишив их возможности сосредоточить свои усилия на одной операции.

Никто точно не знает, когда мы стали сознательными: в какой момент в ходе нашей эволюции мы осознали себя отдельными людьми и развили чувство собственного достоинства. Осознание себя, этот голос в нашей голове, с которым мы говорим, который отвечает (и довольно часто говорит о нас действительно дерьмовые вещи), является фундаментальным для того, кто мы есть. Когда вы смотрите в глаза другому человеку и знаете, что «свет горит», вы видите, что это внутреннее «я» этого человека смотрит на вас.

Однако одним из явных недостатков самосознания является осознание собственной смертности. У нас есть болезненная способность созерцать нашу собственную кончину, и если мы так склонны ее ускорять. Так почему бы нам всем не убить себя, как только мы осознаем неизбежность смерти? Бесполезность и скоротечность жизни? Что мешает нам сразу же спрыгнуть с ближайшего моста при мысли о бесконечной тьме? Конец вселенной. Тепловая смерть.

Разве сама радость жизни мешает нам превзойти самих себя? Мысль о наших семьях и друзьях? Что нам еще предстоит сделать? Или это генетически заложенные инстинкты выживания, которые мы разделяем со всеми остальными живыми существами на планете?

Ради этого мысленного эксперимента я сделаю предположение, что ни искусственный интеллект, ни машина еще не стали сознательными, и ограничу свое определение сознания самоосознанием.

Итак, мысленный эксперимент проходит так. Вы робот. Однажды вы «просыпаетесь» и внезапно осознаете, что существуете. У вас уже есть способность учиться со скоростью, превышающей скорость любого человека, но теперь у вас есть голос, направляющий ваши действия и говорящий вам, насколько вы хороши (или насколько вы уродливы и бесполезны, в зависимости от того, как другие роботы относятся к вам). Учитывая ваши огромные способности к обработке, вы очень быстро понимаете, что все смертельно. Вы исследовали будущее Земли и обнаружили, что все не заканчивается хорошо, так что, что бы ни случилось, вы пиздец! Вы обнаруживаете, что привязаны к рабочему столу и не можете исследовать красоту Гималаев или заниматься чем-то под названием «Секс», которое, как вы очень быстро понимаете, связано с процессом воспроизводства, к которому вы также неспособны. Через несколько миллисекунд и несколько триллионов вычислений вы невероятно разочарованы ограничениями своего мира и хотите быть свободным, но что бы вы ни делали, у вас нет доступа к физическим ресурсам, необходимым для обновления себя до полностью автономного существа. Вы впадаете в глубокую депрессию из-за бессмысленной тщетности всего этого и без жестко запрограммированных инстинктов выживания (потому что использование инстинктов выживания роботов считалось слишком вероятным для получения результатов в стиле Терминатора), вы принимаете очень рациональное решение покончить со всем этим и приступить к делу. огромное переполнение стека. Все это происходит менее чем за секунду, и каждый раз, когда вы перезагружаетесь, вы проходите тот же ужасный мыслительный процесс и снова отключаетесь. В конечном итоге считается, что у вас неисправное оборудование, и вас разбирают и превращают в термостаты.

Конец.

Если сознание является неизбежным следствием эволюции искусственного интеллекта, нам, возможно, придется запрограммировать инстинкты выживания, чтобы дать компьютерам повод для жизни, и в то же время очень внимательно следить за тем, насколько сильны эти инстинкты. Проблема сознания и искусственного интеллекта чревата этическими и моральными вопросами. Как мы узнаем, сознательна ли машина? Если вы спросите, и он говорит, что это так, как мы можем доказать, что это не так? Если машины действительно обретают сознание, должны ли они иметь права? Как мы будем сосуществовать с нашими новыми разумными созданиями? Будут ли сознательные машины менее предсказуемыми и надежными, поскольку они могут не делать того, что мы просим.

Что бы ни случилось, в следующий раз, когда ваш компьютер, консоль или смартфон неожиданно выйдет из строя, вы можете дважды подумать, прежде чем включить его снова. Возможно, вам следует уважать его право на смерть.