Научная фантастика часто фантазирует об искусственном интеллекте (ИИ), который захватит мир и поработит людей, как мы видели во многих голливудских блокбастерах. Даже некоторые ведущие мыслители, такие как Стивен Хокинг, Билл Гейтс, Стивен Возняк и Илон Маск, открыто выражали озабоченность по поводу будущего ИИ. Однако идея о том, что мошеннический ИИ захватит мир, не является ни неизбежной, ни правдоподобной. Вот почему.

Начнем с того, что человеческий интеллект развивался более 3,8 миллиардов лет и является удивительно надежным, гибким и динамичным. Когнитивная наука еще не полностью понимает основные процессы человеческого познания, такие как визуальное мышление (мышление об образах и мышление в образах, например сновидениях) и аналоговое мышление (мышление о новом опыте в сравнении с похожими или знакомыми ситуациями). До сих пор исследования ИИ имели лишь скромный успех в воспроизведении этих процессов в роботах. Для реализации общего человеческого интеллекта в роботах потребуется много серьезных достижений в нескольких дисциплинах, связанных с телами, мозгом, разумом, поведением и взаимодействием как людей, так и машин. Хотя создание общего ИИ человеческого уровня может не занять миллиарды лет, разработка, скорее всего, будет разворачиваться в течение столетий и тысячелетий, а не лет или десятилетий.

Во-вторых, человеческий интеллект по своей сути социален. Многие человеческие достижения являются результатом сотрудничества между людьми. Мы объединяемся в семьи и команды, племена и страны и учимся, подражая другим. Если и когда роботы приобретут интеллект человеческого уровня, чтобы бросить вызов людям, им тоже нужно будет организоваться в общества. Антропологи предполагают, что социальная организация человеческого уровня могла начаться с Homo habilis, биологического предка, который жил в Восточной Африке около 2 миллионов лет назад. Развитие обществ роботов, соответствующих современному уровню социальной организации человека, также, вероятно, займет столетия и тысячелетия, а не просто годы или десятилетия.

В-третьих, хотя легко говорить о будущем ИИ, обладающем самосознанием и способном к самомодификации, на самом деле когнитивная наука мало понимает о метапознании, которое составляет основу самосознания и самомодификации. Мы знаем, что метапознание у людей весьма ограничено. Мы с вами на самом деле мало что знаем о том, что происходит в наших телах, мозге и уме, и не можем легко изменить их. До сих пор искусственный интеллект уделял мало внимания метапознанию, но мы знаем, что оно сопряжено со значительными вычислительными затратами (что может объяснить, почему оно так ограничено у людей). Таким образом, перспектива появления в ближайшем будущем ИИ, полностью обладающего самосознанием и полностью способного к самомодификации, маловероятна.

Возможно, наиболее важно то, что представление о том, что ИИ будущего будет одновременно сверхчеловеческим и злым, отделяет этику от интеллекта. Многие философы и ученые утверждают, что этика является частью интеллекта. Человеческий интеллект и этика постепенно эволюционировали в более высокие этические ценности, такие как Гандианское понятие ненасилия. Вдумчивые писатели-фантасты, такие как Артур Кларк, сделали аналогичные наблюдения о внеземном разуме: если мы когда-нибудь столкнемся со сверхчеловеческими инопланетянами в ближайшие годы и десятилетия, утверждал Кларк, они также будут обладать сверхчеловеческой этикой и, вероятно, будут быть доброжелательным к людям. Те же аргументы применимы и к сверхчеловеческому ИИ: если роботы когда-нибудь разовьются в сверхчеловеческий интеллект, у них, вероятно, тоже будет сверхчеловеческая этика. Как и большинство людей, они тоже на собственном опыте узнают, что быть этичным полезно. У них тоже будет эмоциональная потребность в том, чтобы их принимали и ими восхищались, и они тоже будут чувствовать давление социальных правил и культурных норм. Интеллект, этика и ценности, эмоции и чувства, общество и культура — все идет рука об руку: у общества или вида мало шансов на человеческий уровень или сверхчеловеческий интеллект без соответствующих этики, эмоций и культуры высокого уровня — момент, который многие критики будущего ИИ упускают из виду.

Будущие агенты и общества ИИ не смогут стать разумными, самосознательными и сверхчеловеческими, с одной стороны, и мошенническими, изменчивыми и зловещими, с другой. Хотя важно развеять законные опасения по поводу ИИ, крайние страхи перед тем, что ИИ захватит мир или уничтожит человечество, кажутся скорее отражением человеческого страха перед неизвестным и племенного страха перед «другим», чем реальностью исследований ИИ. Если оставить без внимания эти иррациональные страхи, они могут стать препятствием для исследований ИИ и помешать нам воспользоваться огромными потенциальными преимуществами, которые могут принести роботы, работающие вместе с людьми.