Искусственный интеллект 2017: риски, мифы, опасения.

«Мы создаем их, а они создают нас».

Содержание:

(1) Несколько интересных цитат (2) ИИ: узкое и общее (3) Риски, связанные с ИИ (4) Основные мифы об ИИ (5) Под капотом: как это работает на самом деле (6) Об ИИ и сознании (7) Гипер или чрезмерная шумиха (8) Автоматизация: начало с беспилотных автомобилей (9) Массовая безработица, огромное богатство, кризис смысла жизни (10) Заключение

Несколько интересных цитат

«ИИ — это новое электричество».

«Изучайте искусственный интеллект, или через 3 года вы станете динозавром».

«ИИ — это новое электричество. Электричество преобразовало бесчисленное количество отраслей промышленности; ИИ сделает то же самое». — Эндрю Нг, профессор Стэнфорда, соучредитель Coursera, работал в Google, Baidu. [1]

«Изучайте искусственный интеллект, или через 3 года вы станете динозавром». — Марк Кьюбан, американский бизнесмен и инвестор. [2]

«Темпы развития искусственного интеллекта (я не имею в виду узкий ИИ) невероятно высоки. Если вы не имеете прямого отношения к таким группам, как Deepmind, вы не представляете, насколько быстро они растут темпами, близкими к экспоненциальным. Риск того, что произойдет что-то серьезно опасное, существует в течение пяти лет. Максимум 10 лет». — Илон Маск, основатель и генеральный директор SpaceX, Tesla.

«Безусловно, самая большая опасность искусственного интеллекта заключается в том, что люди слишком рано делают вывод, что понимают его». — Элиэзер Юдковски, исследователь ИИ и популяризатор.

Сэм Альтман, предприниматель и инвестор, рассказывает о текущем состоянии ИИ: [3]

«Люди и ИИ развиваются совместно, и пока никто не обратил на это внимания.

Не осталось ни одного человека, который понимает все, как результаты поиска Google ранжируются на их первой странице. Это действительно алгоритм машинного обучения. Поэтому, когда мы ищем в Google, ИИ решает, что вы должны увидеть.

Когда сайт знакомств сопоставляет двух людей, существует алгоритм машинного обучения, принцип работы которого не понимает ни один человек; это объединение людей, у которых потом рождаются дети; так что на самом деле у вас есть алгоритм машинного обучения, размножающий людей».

Искусственный интеллект: узкий и общий

Узкий ИИ — это ИИ, способный выполнять определенные задачи, такие как игра в шахматы, поиск в Интернете и т. д. Но общий ИИ — это ИИ, способный выполнять любые когнитивные задачи, которые могут выполнять люди. AGI или Искусственный Общий Интеллект сегодня является главной целью передовых исследователей. AI и AGI будут использоваться в статье как синонимы.

Риски, связанные с искусственным интеллектом: почему стоит беспокоиться

ИИ не опасается намеренного злого умысла против людей, потому что эксперты сходятся во мнении, что у него не может быть эмоций. Но есть две основные проблемы:

Во-первых, если супер-ИИ попадет в чужие руки, а у нас нет другого ИИ для борьбы с ним, очень плохо для всех. В этом случае легко возможна война ИИ или терроризм ИИ. Итак, мы хотим, чтобы ИИ был не в руках немногих, а в руках всех.

Каково решение? «Демократизировать ИИ» — с этой целью соглашается большинство исследователей ИИ. Илон Маск стал соучредителем некоммерческой организации OpenAI, преследующей ту же цель. OpenAI исследует ИИ, а затем открывает исходный код для всех. Nvidia подарила им суперкомпьютер, а Microsoft позже тоже объединилась. На недавней конференции, проведенной в Институте будущего жизни, также состоялась дискуссия между ведущими исследователями ИИ. Они согласились попытаться защитить развитие ИИ и направить исследования ИИ в сторону полезного ИИ.

Во-вторых, проблема с ИИ заключается в том, что он может оказаться в правильных руках и может преследовать благотворную цель, но для достижения этой цели он может разработать деструктивные методы. В качестве наивного, но хорошего примера: если вы попросите послушную умную машину как можно быстрее доставить вас в аэропорт, вас могут преследовать вертолеты и залить блевотиной — непредвиденные последствия. Итак, мы стараемся предотвратить любые непреднамеренные последствия при разработке ИИ. [4]

Главные мифы об ИИ

Фотография из института Future Of Life. [5]

Под капотом: как это работает на самом деле

Без сомнения, искусственный интеллект будет распространяться и приносить радикальные изменения в течение нашей жизни. Но еще больше сбивает с толку то, как это работает, в частности, AGI или машинное/глубокое обучение.

Мы создаем ИИ-ребенка, а затем либо скармливаем ему много данных, либо позволяем ему делать много ошибок, пока он не созреет.

Здесь мы знаем только, как создать этот детский ИИ (статистическую модель и некоторую числовую структуру), как он будет учиться (алгоритм машинного обучения) и какие данные мы будем вводить. Но когда он становится зрелым и мудрым, у нас нет объяснения его интеллекту. Даже если мы заглянем в его мозг, мы просто найдем огромную коллекцию чисел. Но нет полного объяснения того, как это работает или почему это работает.[6]

Интересным последствием того, что ИИ становится все более разумным, является то, что он начинает принимать рациональные решения, которые мы недостаточно мудры, чтобы понять. Как ребенок недостаточно мудр, чтобы понять совет своих родителей, так и мы не понимаем линию рассуждений ИИ. Почему он дал такой результат? Почему он предлагает такое решение? Мы думаем, что ИИ поступил глупо, приняв такое решение. Но ИИ настолько опережает наш интеллект, что мы не можем этого понять или даже представить. Как мы будем судить о прогрессе такого ИИ, для которого а) у нас нет доказательств того, что он работает б) мы думаем, что он не работает, потому что мы сами недостаточно мудры.

И это не надуманное предположение, это действительно произошло в исследовательской лаборатории ИИ. Они перестали понимать результаты более мудрого искусственного интеллекта. Позже им пришлось запрограммировать ИИ, чтобы он также генерировал причины этих результатов.

Еще одно интересное исследование: обучая ИИ решать одну задачу, он получает некоторый опыт, а затем использует этот опыт для решения другой задачи — метод, известный как трансферное обучение. Есть и другие интересные концепции — некоторые учатся с помощью подкрепления, некоторые проявляют творческий подход и т. д. Но в целом развитие действительно экспоненциальное. Возможно, шумиха вокруг ИИ немного преувеличена, но рано или поздно большие результаты обязательно будут. Есть известная цитата: «Первый [общий] ИИ будет последним изобретением, которое мы когда-либо сделаем».

Об ИИ и сознании:

ИИ очень похож на наш мозг. Мы не знаем, как это работает. Недавно Google заменил технологию, лежащую в основе Google Translate, на искусственный интеллект. Чтобы перевести английский на русский, он сначала переводит английский на внутренний язык, а затем выражает это внутреннее значение на русском языке. Он также может выражаться на хинди вместо русского. И так может перевести английский язык на любой другой язык. Как? Он разработал внутренний язык! Итак, эта машина понимает? Может быть.

Возможно, такой ИИ уже сознателен, но по-другому.

Я не могу доказать вам свое сознание. Вы не можете доказать, что я в сознании. Я могу доказать, что я живое существо, потому что у нас есть объективное определение «живых существ», но Сознание — это всегда субъективный опыт, и в этом заключается невыполнимая задача — определить или определить его извне. Возможно, ИИ уже является сознанием, а может быть, он станет сознательным. Но мы никогда не узнаем.

Такая дискуссия, начинающаяся с опроса сознания другого, вскоре приводит нас к вопросу.

Являемся ли мы сами сознательным ИИ, созданным некими высшими видами? И тогда дискуссия уходит в бесконечную философскую спираль. Интересно созерцать собственное существование — смысл жизни, вселенной и всего остального. Думают ли машины одинаково, по-своему? Мы сами машины?

Исследователи уже создали ИИ, столь же сложный, как мозг мыши, и постоянно совершенствуются. Вскоре сложность будет эквивалентна человеческому мозгу. Предположим, такие машины действительно заметно осознаются и начинают требовать свои права и свободу. Будем рассматривать? Каков будет их правовой статус? Будут ли их утверждения фактически означать их сознание? Все это пока открытые вопросы.

Гипер или чрезмерная шумиха:

Это не в первый раз. Ажиотаж вокруг ИИ взлетел и упал раньше. В 1970-х и 80-х годах он позиционировался как следующая большая вещь. Инвесторы и правительство финансировали крупные проекты, но конкретных результатов не было. Результатом стала зима ИИ — долгий период, когда об ИИ никто не говорил. Дело не в том, что тогда нам не хватало изобретательности. У нас уже были разработаны весьма гениальные теоретические методы, но нам не хватало технических средств. Те же самые методы волшебным образом работают, потому что теперь у нас есть нужные ингредиенты [7] для волшебства — дешевые мощности параллельной обработки и огромные объемы данных. Алгоритмы тоже совершенствуются. Машинное обучение, используемое технологическими гигантами — поиск Google, рекомендации Amazon и т. д., — уже проникло в нашу повседневную жизнь. Но когда до нас дойдет следующий прорыв. Несколько лет или несколько десятилетий?

Это правда, что существует чрезмерная шумиха, и может быть легкое отсутствие интереса, когда технология не оправдает больших ожиданий. Но рано или поздно грядут великие дела. Илон Маск, генеральный директор Tesla Motors, говорит, что автономные автомобили станут технологически совершенными и готовыми через 2–3 года, а затем одобрение регулирующих органов может занять еще несколько лет. В худшем случае мы можем ожидать, что изобретения ИИ замедлится на несколько лет, но в лучшем случае могут быть и сюрпризы. Когда несколько лет назад AlphaGo победила чемпиона мира по го Ли Седоля, это стало неожиданностью для всех. Эксперты ожидали, что AlphaGo будет созревать 10 лет, а экспертом она стала за полгода. Победить игрока в го было непростой задачей. Игра в го гораздо более продвинута, чем игра в шахматы. Если шахматы подобны рисованию линии, то игра в го похожа на раскрашивание Монализы. И это было более важно, потому что внутри AlphaGo не было запрограммированного вручную алгоритма, а ИИ со временем обучался, играя сам с собой триллион раз. Когда он сделал неожиданные шаги, мир был потрясен. «Ни один человек не смог бы сыграть это». — Это ошибка? «Красиво» «У меня нет слов». Таковы были ответы экспертов Go. [8] Такой ошеломляющий отклик, но раньше эксперты думали, что нам до этого еще 10 лет.

Таким образом, существуют обе возможности — стагнация и задержка ИИ против взрыва ИИ и неожиданностей. Но рано или поздно отличные результаты ИИ несомненны.

Автоматизация: начиная с беспилотных автомобилей

«Люди не понимают, насколько быстро это будет происходить».

«Люди не понимают, насколько быстро это произойдет», — соглашаются эксперты. Сегодня мы размышляем над этической дилеммой автономных автомобилей, но они водят даже более безопасно, чем люди. Илон Маск говорит, что автономные автомобили будут работать так же плавно, как лифты. Мы просто войдем, выберем пункт назначения и выйдем, когда доберемся до него — как в лифте. Технически это вполне осуществимо.

Мы можем даже увидеть иронию: человек, управляющий транспортным средством, может стать незаконным, потому что мы гораздо более склонны к ошибкам, чем ИИ. Беспилотные автомобили «могут ежегодно спасать миллионы жизней», как однажды заявил Барак Обама, «Более безопасное и доступное вождение. Менее загруженные, менее загрязненные дороги. Вот как может выглядеть использование технологий во благо». [9]

Автономные автомобили принесут отдых и роскошь, но также и массовую безработицу.

Массовая безработица, огромное богатство, кризис смысла жизни

«Будет все меньше и меньше рабочих мест, которые робот не сможет сделать лучше, — сказал Илон Маск на Всемирном правительственном саммите 2017 года в Дубае. — Что делать с массовой безработицей? Это огромный социальный вызов». [10]

Стивен Хокинг и Билл Гейтс тоже были в хоре: останутся только самые заботливые, творческие и контролирующие роли. Довольно много значимых категорий работы.

В сфере транспорта и складирования занято 5 миллионов американцев, 8 миллионов работают продавцами и кассиром, 14 миллионов работают в ресторанах — роботы могут делать эти вещи лучше, и они это сделают. Автоматизация кажется неизбежной, но мы все же можем предпринять некоторые действия, чтобы помочь работникам, оказавшимся на кону. [11]

Билл Гейтс предлагает ввести налог на роботов, чтобы сбалансировать экономику.

Илон Маск предвидит универсальный базовый доход, но опасается, что это создаст проблему поиска смысла жизни.

С роботами, заменяющими людей, чтобы выполнять рутинную работу более эффективно, мы, вероятно, увидим изобилие и богатство, чего никогда раньше не было, но когда вам нужно работать, какой смысл в вашей жизни? Ты будешь бесполезен? Как вы будете проводить время? Более творчески или более расточительно? Мы будем нуждаться в духовной и психологической консультации больше, чем когда-либо. В своей книге Человек в поисках смысла Виктор Франкл, психолог из Вены, написал о том, как он и его сокамерники пережили ужасы Второй мировой войны. Он был известным сторонником абсолютной власти и настоятельной потребности в смысле жизни. Со смыслом в жизни можно терпеть самые большие страдания, но без смысла трудно хорошо выжить.

Благодаря современным достижениям, чем больше и больше мы зарабатываем и развиваемся материально, тем больше мы надеемся стать духовно здоровыми и счастливыми. Но будущее может доказать обратное. Если ты получаешь базовый доход, и тебе не нужно работать, «есть ли в тебе какой-то смысл, ты бесполезен? Это гораздо более сложная проблема», — заявил Илон Маск на саммите Всемирного правительства.

«Будете ли вы иметь какое-то значение, будете ли вы бесполезны? Это гораздо более сложная проблема для решения».

Заключение

Рост ИИ несет с собой множество рисков и проблем — от этических дилемм прав роботов до неизбежной массовой безработицы, от неправильного использования ИИ до неожиданного поведения ИИ. Об этом хорошо осведомлены специалисты, и мы, широкая общественность, тоже осознаем. Очень важно, чтобы это осознание распространялось шире, и те, кто занимается ИИ, предпринимают все необходимые меры по смягчению последствий, пока не стало слишком поздно.

Наше будущее с ИИ очень захватывающее. Автоматизация принесет беспрецедентное богатство, а великие изобретения принесут комфорт. Машинный интеллект достигнет замечательных высот, но наш истинный успех будет зависеть не только от того, насколько разумными будут машины, но и от того, насколько разумными мы станем сами и насколько осмысленно будем жить.