Дикий Запад (мир) искусственного интеллекта

Дикий Запад (мир) искусственного интеллекта

Распространено мнение, что искусственный интеллект однажды станет более умнее людей, которые его создали, лишит нас рабочих мест, поработит нас, истребит нас и захватит планету. Хотя обоснованность этого еще предстоит увидеть, сегодня это не мешает людям, по крайней мере, исследовать последствия неконтролируемого ИИ. Хотя я не сомневаюсь, что ИИ когда-нибудь действительно существует (поскольку все, что мы называем «ИИ» сегодня, на самом деле не является ИИ — надеюсь, вы уже поняли, что это просто еще одно модное словечко после «больших данных», «тотального управления качеством» и множества других разрекламированных терминов), я не подозреваю, что это произойдет в моей жизни, поэтому мне не о чем беспокоиться. это слишком много (хотя, к сожалению, этот менталитет «перекладывания денег», кажется, то же самое, что мы наблюдаем с изменением климата и другим «НИМБИ-подобным» явлением).

Думайте об этом как о летающих автомобилях: концепция рекламировалась годами и всегда казалась не за горами. Хотя мы, возможно, приближаемся или, может быть, просто перенаправляем наши усилия на автономные, но все еще привязанные к земле транспортные средства, нам, вероятно, все еще нужны годы, чтобы по-настоящему реализовать самоуправляемые (или летающие) автомобили, как мы их себе представляем. То же самое касается ИИ. Сегодня наши популярные представления об этих вещах лежат в основном в области научной фантастики.

Мир Дикого Запада и ИИ

Если научная фантастика что-то и показала нам, так это то, что иногда ее авторы пугающе близки, если не точны, в своих предсказаниях технологий будущего. Жюль Верн предсказал (или, может быть, лучше сказать «предвидел») высадку на Луну, Герберт Уэллс предсказал появление сотовых телефонов и атомных бомб, а современные авторы, такие как Филип К. Дик и Уильям Гибсон, предсказали несколько технологических прорывов, которые все еще осуществляются сегодня. Затем есть Майкл Крайтон из Парка Юрского периода, который написал сценарий и снял фильм 1973 года Мир Дикого Запада, который сегодня был переделан в сериал HBO.

По сути, Westworld рассказывает историю о тематическом парке будущего, наполненном андроидами с искусственным интеллектом, которые практически неотличимы от настоящих людей на Старом Западе. Состоятельные гости платят за полное погружение, которое для некоторых приводит к садистскому поведению по отношению к своим роботизированным «хозяевам», как их называют в сериале. Западный мир становится выходом всех сдерживаемых эмоций и желаний гостей, как хороших, так и плохих, которые они не могут по-настоящему выразить в реальном мире, из которого они пришли.

Короче говоря, не раскрывая слишком много тем из вас, кто не смотрел Мир Дикого Запада, хосты начинают вспоминать свои прошлые взаимодействия и «жизни» (хозяева регулярно перепрограммируются играть в парке с новыми персонажами по сценарию, стирая их прежние личности), для чего они никогда не были предназначены. Это действует как искра, которая зажигает фитиль разума ИИ в пороховой бочке. Хозяева постепенно понимают, кто они такие, что с ними сделали, и вооружаются, чтобы сбежать из единственного дома, который они когда-либо знали.

Итак, если «ИИ» сегодня на самом деле не «ИИ», то что это?

Я не думаю, что кто-то будет не согласен с тем, что ИИ, который можно увидеть в Westworld, очень далек от наших нынешних возможностей. Тем не менее, по иронии судьбы, то, что сегодня люди делают, называют искусственным интеллектом, также весьма далеко от настоящего искусственного интеллекта. Я несколько циник, когда дело доходит до либерального использования «ИИ-это» и «ИИ-то», которое сегодня рекламируется в большом списке организаций, предлагающих «решения на основе ИИ» (нет, линейная регрессия). модель не ИИ).

Для меня и многих других, глубоко интересующихся этой областью, настоящий ИИ — это то, что обычно называют искусственным общим интеллектом или ОИИ — системы, которые, по сути, могут научиться как учиться самостоятельно. Сегодня предполагаемому ИИ по-прежнему требуются большие наборы данных для его обучения, он по-прежнему требует вмешательства человека для точной настройки процесса обучения, он по-прежнему требует, чтобы люди оценивали его производительность, и он по-прежнему обычно хорошо работает только в той области, в которой он был обучен. on (т.е. вы не можете взять сегодняшний ИИ, обученный распознавать лица в толпе, и перепрофилировать его для краткого изложения текста — хотя такие модели, как GPT-3, чертовски близки).

Недавно я закончил читать получившую Пулитцеровскую премию книгу Дугласа Р. Хофштадтера Гедель, Эшер, Бах: вечная золотая коса. Несмотря на то, что книга была написана 41 год назад (и до сих пор читается с трудом), многие ее положения об ИИ остаются верными и сегодня. Например, автор описывает два режима мышления: «М-режим» и «Я-модус». М-режим, или «механический режим», — это то, как «думают» машины, которые вообще не думают — это выполнение набора инструкций в данной системе. Вы можете думать об этой «системе» как о языке программирования; язык в тех же отношениях, что и человеческий.

А что произойдет, если вы напишете программу на одном языке программирования, скажем, на Python, и попытаетесь запустить ее в интерпретаторе, ожидая, что она будет написана на языке C (интерпретатор — это то, что выполняет код на компьютере)? Это не сработает, и вы будете получать сообщения об ошибках, верно? Но ваш компьютер не вернется к вам и не скажет: «Эй, похоже, вы написали свою программу на Python, может, вместо этого вам стоит попробовать интерпретатор Python!» Это связано с тем, что интерпретатор ограничен рамками системы/языка программирования. С его точки зрения, других языков программирования не существует, и то, что вы написали на Python, воспринимается просто как ужасный код на C!

Тем не менее, мы, люди, работаем в «режиме Я» или «разумном режиме». Мы можем эффективно выйти из этих систем и задать о них вопросы. Может ли компьютер выполнить код и вернуться к нам со словами: «Я сделал то, о чем вы просили, но я думаю, что это то, что вы намеревались сделать» или «Я понимаю цель этой программы?» Истинный интеллект, настоящий или искусственный, — это гораздо больше, чем решение очень сложных задач. Речь идет об умении задать простой вопрос: «Почему?»

Три аспекта настоящего ОИИ

Перенесемся в будущее Мира Дикого Запада, где ИИ, безусловно, достиг разума, сознания и мышления I-Mode. Какие современные уроки мы можем извлечь?

1. Искусственный интеллект «Kill Switch» — Мейв из Мира Дикого Запада, королева борделя, ставшая самураем, обладает уникальной способностью, которая играет ключевую роль в развитии искусственного интеллекта. концепция сознания: она может контролировать/перекодировать своих собратьев-андроидов, чтобы они выполняли ее приказы, и, по сути, «разбудить их» к реальности, что они не люди и что вся их жизнь была написана по сценарию. Эта сила превратила немало ее собратьев-обитателей Западного мира в ее союзников против их человеческих повелителей. Эта способность не была дана ей целенаправленно в начале шоу, технические специалисты Westworld могут отключить большинство хостов, просто сказав им закодированные фразы. По ходу сериала Мейв кажется неудержимой до самого конца последнего сезона, где (ВНИМАНИЕ, СПОЙЛЕР!) она мгновенно отключается каким-то «выключателем». Из этого следует урок: инженеры искусственного интеллекта всегда должны сохранять контроль с отказоустойчивостью. Откровенно говоря, мы не должны позволять ИИ стать таким же или более разумным, чем мы. Нам нужны элементы управления, лежащие вне системы и недоступные для ИИ, который надежно удерживает нас под контролем.

2. Этика ИИ. Даже сегодня мы слышим о непредвиденных последствиях неблагоприятного отбора в прогностических моделях. Тем не менее, сами модели и алгоритмы машинного обучения, используемые для их обучения (заметьте, работающие полностью в М-режиме) вряд ли виноваты. Мы виноваты. Данные, необходимые для создания таких моделей, были созданы из человеческих действий, записанных в прошлом, и поэтому модели являются просто отражением скрытых человеческих предубеждений. Это обычная тема для обсуждения в сегодняшних кругах по этике ИИ, но по мере того, как мы переводим часы вперед, возникает множество соображений. Приведет ли ИИ к дальнейшему неравенству в сфере здравоохранения, основанному на богатстве, или в экстремальном примере Westworld сохранения цифрового сознания, где можно жить вечно (а также тема Upload серия)? Есть ли у андроидов с искусственным интеллектом права? Должен ли ИИ разрешаться принимать решения самостоятельно или человек-привратник всегда должен действовать как буфер? Некоторые из этих этических соображений всплывают сегодня, и группы аналитических центров, такие как DataEthics4All моего коллеги Шилпи Агарвал, начинают решать сложные вопросы, которые могут не возникнуть сегодня, но наверняка возникнут в будущем.