Не называйте машины умными - по крайней мере, пока
Допустим, я заперт в комнате и получил большую партию китайской письменности. Я не знаю ни китайского, ни письменного, ни устного. Я даже не могу отличить написание от других подобных шрифтов, например от японского. Теперь я получаю второй пакет письменных документов, но на этот раз с набором инструкций на английском языке (который я знаю) о том, как соотнести первый пакет со вторым. Я использую эти инструкции на английском языке, чтобы найти закономерности и общие символы в письме.
Затем я получаю третий пакет писем, снова с набором инструкций на английском языке, которые помогают мне соотнести его с первыми двумя пакетами. Эти инструкции также помогают мне составить ответ, используя тот же набор символов и знаков. Это продолжается.
Через некоторое время я настолько хорошо разбираюсь в этой игре, что никто, просто глядя на мои ответы, не может сказать, являюсь я носителем китайского языка или нет. Но значит ли это, что я понимаю китайский? Конечно, нет.
Этот блестящий пример, названный аргументом китайской комнаты, из книги Джона Р. Сирла Minds, Brains and Programs (1984) [1], подчеркивает фундаментальные недостатки в нашем понимании искусственного интеллекта. . Эта статья - ода идее о том, что «интеллект», который мы пытаемся создать искусственно, на самом деле не является «интеллектом», который мы с вами внутренне определяем как черту нашего вида. Это всего лишь имитация или иллюзия человеческого разума.
Что такое интеллект?
На протяжении многих лет психологи, исследователи и философы пытались формально определить понятие интеллекта. Было предпринято несколько различных попыток определения интеллекта, но стандартное определение еще не установлено, несмотря на долгую историю исследований и дискуссий.
В разговорной речи мы используем термин «умный» в повседневной беседе; но контекст здесь подразумевает только субъективное измерение относительной «сообразительности» людей. При неформальном использовании это слово в определенной степени на индивидуальном уровне указывает на интеллект. В этой статье мы сосредоточимся только на общем интеллекте как определяющей особенности человеческого вида.
Легг и Хаттер, Универсальный интеллект: определение машинного интеллекта (2007) [2] , попытались определить универсальную меру интеллекта. Они предложили общее определение, которое учитывает большинство предложенных на сегодняшний день определений [3]:
Интеллект измеряет способность агента достигать целей в широком диапазоне условий.
Это, наверное, самое близкое, что мы подошли, но все еще не дотягивает. Это определение концентрируется на целеустремленных, наблюдаемых чертах агента. Это означает, что для существования интеллекта он должен быть воспринят наблюдателем, а агент должен быть движим достижением какой-то цели.
В этой статье предлагается другой взгляд на интеллект, который неразрывно связан с человеческой природой. И чтобы уточнить, это не научный подход, а скорее философский.
Человечество интеллекта
Люди превратились в разумных существ. Юваль Ной Харари в книге Sapiens: Краткая история человечества доводит эту мысль до конца с теорией когнитивной революции, которая отделила нас от остальных видов на Земле и позволила нам стать доминирующими на Земле. виды сегодня. Таким образом, мы можем считать, что человеческий интеллект является нашим золотым стандартом «интеллекта».
Но почему мы исключаем нашу врожденную человечность из наших формальных определений интеллекта? Неужели дело только в вычислительной мощности, обработке информации и памяти? Почему измерять только производительность и эффективность?
Помимо способности выполнять задачи, нам также необходимо принимать во внимание нематериальные активы - остроумие, юмор, мораль, этику, свободную волю, самосознание, интуицию и сознание - не говоря уже о способности создавать художественные произведения. Как упоминает Харари, способность рассказывать истории - вот что подтолкнуло наш вид стать хозяевами планеты.
Излишне говорить, что это также означает принятие во внимание более темных аспектов человеческого бытия - обмана, эгоизма, способности лгать и обманывать. Эта способность создавать художественную литературу - искусство рассказывания историй - и есть то, что мы называем воображением. Если бы Эйнштейн был Эйнштейном только благодаря огромному хранилищу информации и знаний, находящемуся в его распоряжении, вкупе со способностью обрабатывать эту информацию выше среднего, то любой суперкомпьютер смог бы заменить его, и мы смогли бы воспроизвести миллионы копий. его ума сегодня.
А как насчет искусственного интеллекта?
Исследователи ИИ используют одно из многих доступных определений интеллекта [2] в качестве основы для своей работы по созданию искусственно «интеллектуального» агента. Быстрый поиск в Google дает определение ИИ: «теория и разработка компьютерных систем, способных выполнять задачи, обычно требующие человеческого интеллекта, такие как зрительное восприятие, распознавание речи, принятие решений и перевод между языками».
Тогда давай поиграем. Представьте себе машину, которая следует инструкциям, выполняет задачи и принимает решения - но она не знает, что она есть, не знает, что делает, почему она это делает. , или какова его цель. Он даже не хочет знать. Машина быстрее вас, лучше хранит огромные объемы данных и более эффективна. Он может выполнять вычисления со скоростью света, подчиняться инструкциям буквы T, выполнять приказы и чертовски хорошо играть в шахматы.
Однако независимо от того, насколько быстры ходы, насколько эффективна игра, насколько «умной» может казаться стратегия - все это по-прежнему ограничено четырьмя углами шахматной доски, и машина работает по заранее определенному набору правил. Машина либо запрограммирована заранее, либо принимает огромные объемы данных и учится на них. В любом случае его знания ограничены тем, чему он подвергся.
Может ли машина обмануть? Может ли он внезапно разразиться гневом и в отчаянии перевернуть доску? Его цель четко определена: выиграть игру. Здесь нет места диковинному, непредсказуемому. Например, машина не чувствует давления со стороны тактики запугивания оппонентов, потому что она не понимает концепции запугивания. Эмоции никак не влияют на игровой процесс. Мы, с другой стороны, можем вспотеть, нервничать и паниковать, сражаясь с Вишванатаном Анандом в шахматном матче.
AlphaGo может победить Ли Седола в игре в го, а DeepBlue может победить Гарри Каспарова в шахматах, но это «слабый ИИ» с единственной целью. Они не многогранные и разумные существа. Такая машина - всего лишь сверхпроизводительный и высокоэффективный инструмент - средство для достижения цели; не независимое существование внутри себя. Эффективного фабричного рабочего, безусловно, можно заменить гораздо более производительной машиной, но автоматизация - это не то же самое, что интеллект.
Человек или «как человек»?
Искусственный интеллект, который мы знаем сегодня, отчаянно пытается играть в имитацию. Возникает вопрос: если я буду вести себя в точности как человек, сделает ли это меня человеком?
Чат-боты делают это очень хорошо. Многие чат-боты сегодня могут легко пройти тест Тьюринга. Они пугающе имитируют человеческие эмоции. Однако это не делает бота человеком. Все это означает, что боты могут быть исключительными в создании иллюзий эмоций, даже если у них их нет. Естественно, «эмоциональная поддержка», которую вы, кажется, получаете от бота, - это фарс.
ИИ может создавать музыку, рисовать и имитировать модуляцию человеческого голоса и речь [4] - но они все еще следуют алгоритму; заранее запрограммированный набор правил и шаблонов. Даже если они способны творить искусство, есть ли в их творчестве какие-то чувства? Они гордятся своей работой? Они сознательно связывают с этим эмоции?
Здесь также не стоит вопрос о том, что правильно, а что нет. Кто-то может возразить, что лучше, если машина не «чувствует», чтобы она могла работать в ситуациях, когда люди теряют чувство суждения или медленно реагируют на эмоциональное давление. Безэмоциональные агенты также обеспечивают справедливость и холодную, жесткую рациональность, когда дело доходит до принятия решений. Но если человечество является преградой для интеллекта, то эти агенты определенно не подходят для того, чтобы сесть за стол.
Сегодня то, чего мы пытаемся достичь, и то, что такое интеллект на самом деле, очень далеки друг от друга. Наше нынешнее определение и взгляды ошибочны - мы рассматриваем только целенаправленный подход к измерению интеллекта, но мы не принимаем во внимание характеристику, которая отделяет человека от машины: самосознание. И пока мы продолжаем отделять разум от мозга, мы, возможно, никогда не достигнем реализации истинного разума в машинах.
Использованная литература:
[1] Серл, Дж. Р. (1984). Разум, мозг и программы; Статья в Behavioral and Brain Sciences 3 (3): 417–457: https://www.law.upenn.edu/live/files/3413-searle-j-minds-brains-and-programs-1980pdf
[2] http://www.vetta.org/documents/legg-hutter-2007-universal-intelligence.pdf
[3] http://www.vetta.org/documents/A-Collection-of-Definitions-of-Intelligence.pdf
