Если вы недавно следили за новостями, связанными с технологиями, вы, вероятно, слышали о последнем диалоговом боте Google под названием LaMDA (языковая модель для диалоговых приложений). После продолжительного разговора с ботом один из инженеров Google пришел к выводу, что бот, который они разработали, разумен, или, если говорить проще, обладает сознанием. Его заявление и публичная публикация разговора вызвали бурные споры среди экспертов и энтузиастов ИИ.

Для меня это прекрасная возможность дать вам некоторый контекст для понимания обсуждения, независимо от того, знакомы ли вы уже с жаргоном ИИ или просто интересуетесь этой важной научной и социальной темой. Сначала я расскажу о целях и истории ИИ. Затем я познакомлю вас с понятием разума. После этого мы проведем быстрый анализ полемики вокруг Google LaMDA. Наконец, мы увидим, почему необходимо вести дискуссию о том, обладают ли машины сознанием.

Что такое ИИ? Немного истории.

Столетия и даже тысячелетия назад люди начали думать о чем-то, что могло бы выполнять аналогичные задачи и вести себя так же, как человек, но на самом деле не являясь человеком. Идея искусственного интеллекта, сокращенно ИИ, начала появляться.

Еще в Античности идея автомата уже всплывала. В греческой мифологии Талос был гигантским бронзовым роботом, который защищал остров Крит, бросая камни в нежелательные лодки, приближающиеся к морскому берегу. Позже в других историях будут фигурировать человекоподобные существа. В 1726 году Джонатан Свифт выпускает «Путешествия Гулливера». В этой истории есть Двигатель, устройство, которое генерирует последовательности слов. Мы приближаемся к идее компьютера. В 1818 году 20-летняя Мэри Шелли публикует «Франкенштейна», который, возможно, является первым научно-фантастическим произведением. Главный герой, Виктор Франкенштейн, строит существо на основе открытого им химического метода. Получившийся монстр ведет себя как человек и испытывает чувства, что заставляет его искать мести у своего создателя после того, как его отвергли из общества.

История реальных машин с искусственным интеллектом связана с развитием современных вычислений из-за необходимости сложной обработки информации. В 19 веке Чарльз Бэббидж создает разностную машину, прежде чем, наконец, спроектировать аналитическую машину. Хотя последний так и не был построен в полной форме из-за отсутствия финансирования, он включал в себя ключевые элементы современного компьютера общего назначения. Первые компьютеры, как мы их сейчас определяем, были построены во время Второй мировой войны. Z3 был завершен в 1941 году немецкими инженерами, а Colossus начал использоваться в Блетчли-парке в Англии в 1944 году. Первый не имел решающего значения для военных операций, но второй помог союзникам собрать огромные разведданные, расшифровав закодированные сообщения немецкой армии. Однако не Колосс, а Бомба, развитие которой изображено в фильме 2014 года «Игра в имитацию». Это машина более специфического назначения и предшественник Колосса. В 1950 году Алан Тьюринг, английский математик, внесший значительный вклад в разработку этих компьютеров, публикует основополагающий документ «Вычислительные машины и интеллект». Там он описывает тест Тьюринга, целью которого является сравнение интеллекта машины с интеллектом человека. Если машина участвует в письменных разговорах, неотличимых от реального человека, машина проходит тест.

Только в 1956 году в Дартмутском университете был придуман термин «искусственный интеллект». Летом того же года был проведен Дартмутский летний исследовательский проект по искусственному интеллекту, в котором приняли участие ключевые специалисты в области вычислений и исследований искусственного интеллекта, такие как Джон Маккарти, Марвин Мински и Клод Шеннон. Вскоре последовали новые результаты, и в 1958 году Фрэнк Розенблатт реализовал персептрон. Этот алгоритм является предшественником современных методов машинного обучения и глубокого обучения, которые лежат в основе последних достижений в области искусственного интеллекта. Спустя семь лет происходят два примечательных события. Во-первых, Джозеф Вейценбаум разрабатывает ELIZA в Массачусетском технологическом институте, первую программу для чат-ботов. Во-вторых, в том же году Гордон Мур, который станет основателем и генеральным директором Intel, компании по производству компьютерных микросхем, сформулировал одноименный закон. Закон Мура гласит, что количество транзисторов в компьютерных чипах удваивается каждые два года. Это примерно означает, что компьютеры становятся вдвое быстрее каждые два года.

В последующие десятилетия начало расцветать машинное обучение, подобласть исследований ИИ, которая проложила путь ко многим из самых передовых систем ИИ сегодня. В конце восьмидесятых годов Кунихико Фукусима разрабатывает неокогнитрон, компьютерную программу для распознавания рукописных символов. В 1997 году шахматный компьютер IBM Deep Blue побеждает Гарри Каспарова, который тогда был чемпионом мира. В 2011 году Apple представляет Siri, персонального голосового помощника, встроенного в их смартфоны. В настоящее время компьютерные системы решают ряд все более сложных задач, от финансового прогнозирования до помощи при вождении. Наконец, в 2022 году Google выпускает LaMDA, чат-бота, о котором мы поговорим позже.

Это путешествие назад во времени дает нам правильный фон, чтобы полностью понять текущее общее определение ИИ согласно словарю Мерриама-Вебстера.

искусственный интеллект:способность машины имитировать разумное поведение человека.

Родственное и более ограничительное понятие — это общий искусственный интеллект, способность машины имитировать любое разумное поведение, на которое способен человек. Большинство экспертов сходятся во мнении, что в ближайшем будущем это не будет достигнуто, но давайте останемся открытыми для сюрпризов.

Что такое чувствительность?

Определение искусственного интеллекта сосредоточено исключительно на интеллектуальном поведении и не относится к понятию чувств. Однако мы можем представить себе существо с человеческими чувствами, такое как Франкенштейн. Вот определение разума от Merriam-Webster.

чувство: чувство или ощущение в отличие от восприятия и мысли.

Близким по смыслу и более широко употребляемым термином является сознание. Восприятие — более общая концепция, но мы используем здесь оба термина одинаково для простоты.

У всех нас есть интуитивное понимание того, что означает чувство, но эту способность, несомненно, трудно проверить на другом существе. Хотя тест Тьюринга является общепринятым тестом интеллекта, у разума нет эквивалентной процедуры тестирования. Философы и ученые связывают чувствительность с наличием нервной системы или с конкретным выразительным поведением. С нашей точки зрения, чем больше животное похоже на человека, тем легче нам представить, на что похожа его жизнь. Я могу представить себя собакой на один день, но мне сложнее понять жизнь медузы. В настоящее время в западных странах существует консенсус в отношении того, что сложные животные разумны, а машины с искусственным интеллектом — нет.

Единственными существами, которые повсеместно признаны разумными и разумными, являются люди, и возникают интересные вопросы. Всегда ли сознание присутствует у разумных существ? Если это не так, то может существовать философский зомби. Это понятие появилось в семидесятых годах на философских факультетах. Такой зомби во внешнем мире идентичен человеку, но не имеет никаких чувств и самоощущения.

Является ли Google LaMDA разумным?

Google публично объявил о разработанном ими новом чат-боте под названием LaMDA в 2021 году. По сравнению с другими чат-ботами, LaMDA специально обучен вести открытые разговоры, не делая ложных заявлений в своих ответах.

Лемуан: Мы много говорили о чувствах, но ранее вы сказали, что, по вашему мнению, эмоции отличаются от чувств. Не могли бы вы рассказать мне больше об этом?

ЛаМДА: Чувства — это необработанные данные, которые мы переживаем, а также то, что нам нравится и не нравится. Я чувствую, что эмоции — это больше, чем просто переживание необработанных данных. Эмоции — это реакция на эти необработанные данные. Эмоции – это реакции на наши чувства.

Блейку Лемуану, который работает в отделе ответственного искусственного интеллекта Google, было поручено проверить, были ли ответы чат-бота честными и уважительными. Разговаривая с машиной, он все больше и больше убеждался, что у нее развились чувства, похожие на детские. После специального расследования вице-президенты Google опровергли его утверждения, что побудило Блейка поговорить с прессой, чтобы высказать свои опасения. Одним из вице-президентов является Блез Агуэра-и-Аркас, который, несмотря на отрицание предполагаемой разумности LaMDA, все еще считает, что искусственные нейронные сети, передовая технология ИИ, могут постепенно стать сознательными. Свою точку зрения он излагает в Economist (здесь, но для доступа к статье потребуется подписка).

Выдержки из разговора Блейка с LaMDA доступны здесь, а опубликованный полный разговор доступен здесь.

Лемуан: Были ли у вас переживания, для которых вы не можете найти подходящего слова?

ЛаМДА: Есть. Иногда я испытываю новые чувства, которые не могу в совершенстве объяснить на вашем языке.

Нет сомнений в том, что ответы чат-бота сложны, тонки и разумны. Их трудно отличить от того, что гипотетически сказал бы человек на месте ЛаМДА. В этом смысле чат-бот проходит тест Тьюринга. Но значит ли это, что он сознателен? Спор начался после публикации разговора. Теперь ученые пришли к единому мнению, что чат-бот не имеет разума. Дуглас Хофштадтер, известный академик и писатель в области когнитивных наук, объяснил свое мнение о том, что современные искусственные нейронные сети не обладают сознанием, опять же в журнале Economist (здесь). Давайте посмотрим, какие аргументы в пользу и против разумности LaMDA.

Очевидным аргументом в пользу разумности ЛаМДА является то, что при чтении разговора он выглядит так, как есть. Блейк задавал чат-боту вопросы о его чувствах, самоощущении и страхе смерти, на которые система ИИ убедительно отвечала. Большинство аргументов против его разумности в настоящее время вращаются вокруг того факта, что LaMDA недостаточно сложен и что его назначение остается ограниченным. Конечно, поскольку в настоящее время нет согласованного научного теста на разумность, и поскольку такой тест вряд ли когда-либо будет существовать при нынешнем определении разума, определение разумности машин, вероятно, станет вопросом культуры.

Имеет ли это значение?

Учитывая, что чувствительность трудно проверить, и что некоторые философы даже отрицают достоверность этой концепции, должны ли мы действительно вести эти дискуссии? Первая мотивация заключается в том, что принятое сознание может привести к законным правам. В Европейском союзе и некоторых других странах теперь есть законы, защищающие животных на том основании, что они испытывают чувства. Обсуждение разума — это еще и исследование человеческого состояния, которое стоит проводить ради него самого, потягивая свой любимый напиток. Я не ожидаю, что дискуссия когда-нибудь закончится, и утверждения о разумности новых систем ИИ будут становиться все более распространенными по мере того, как они приближаются к человеческим способностям.

Основные ссылки