Часть 1: Введение в общий искусственный интеллект

«Где-то что-то невероятное ждет, чтобы о нем узнали».

- Карл Саган

Об этой серии

Hi.

Меня зовут Майк Фергюсон, я начинающий исследователь-программист в отделе мозговых и когнитивных наук (BCS) Массачусетского технологического института. В студенческие годы я был создателем и преподавателем нового курса информатики в Университете Вирджинии, посвященного пересечению искусственного интеллекта, нейробиологии и философии. Курс назывался CS 1501: Общий искусственный интеллект и в течение трех семестров в UVA читалось почти 150 студентов, даже получив педагогическую награду от факультета UVA CS. Вырвав у меня волосы из-за отсутствия понятных и кратких представлений AGI, затрагивающих соответствующие вопросы, у меня возникла идея преобразовать этот класс в серию блогов.

Какова природа сознания? Что такое легендарный тест Тьюринга и будет ли он работать, как планировалось? Сможет ли суперинтеллект уничтожить человечество? Может ли ОИИ разрушить или улучшить экономику? Это одни из самых важных вопросов, которые может задать человечество, и которые могут решить нашу судьбу. Я не претендую на ответы; Я надеюсь, что просто подчеркну необходимость междисциплинарного сотрудничества и подчеркну, как философия и когнитивная наука могут пролить свет на сложные проблемы информатики и даже предложить ответы на них.

В этой новой веб-серии мы зададим эти вопросы, рассмотрев конкретную надмножество ИИ: общий искусственный интеллект или ИИ общего назначения. Более 13 или около того сообщений я превращу курс UVA, который я преподавал, в удобоваримую сагу, представляющую и объясняющую ключевые концепции AGI - от фундаментальной когнитивной науки до философии разума и суперинтеллекта. Мы будем исследовать таинственные земли сознания, изучать литературу по когнитивным архитектурам и разбираться в проблемах суперинтеллекта, так что следите за обновлениями. Для всех, кто интересуется нейробиологией ИИ, применением философских затруднений или задается вопросом, действительно ли возможен Скайнет, вы нашли правильное место. Моя цель для курса - широта охвата, поэтому этот «курс» охватывает многое, однако у «проблемы AGI» много аспектов, и я надеюсь представить их любым возможным способом.

Новый пост будет выходить каждую неделю / раз в две недели (я надеюсь), и не стесняйтесь писать по электронной почте ([email protected]) с вопросами, комментариями или разъяснениями. Наслаждаться!

Заявление об ограничении ответственности: несомненно, есть те, кто более квалифицирован, чтобы глубоко говорить о проблемах и темах, которые я затрону, от эмоций до нейроморфных вычислений. Для этих людей эта серия должна быть введением по этим темам, поэтому приносим извинения, если что-то опущено или сокращено для краткости. Я действительно просто хотел, чтобы эта серия и класс, который ее вдохновил, послужили обзором соответствующих тем AGI, которые обычно не преподаются, когда кто-то изучает ML или AI. Также обратите внимание: эта серия никоим образом не связана с MIT или его брендом - мне просто нравится писать на стороне о вещах, которые меня интересуют, и MIT официально не поддерживает мнения, изложенные здесь.

Часть I. Что такое интеллект?

Спойлер: мы все еще не можем договориться.

Психолог Р.Дж. Штернберг однажды сказал, что «… похоже, существует почти столько же определений интеллекта, сколько экспертов просили дать ему определение». Другой психолог, Э. Боринг, утверждает: «Интеллект - это то, что измеряется с помощью тестов интеллекта».

Насколько мне известно, не существует согласованного определения, которое делает наши поиски создания и / или понимания ОИИ немного более сложными, учитывая, что мы не знаем, какой именно интеллект есть. Вы не сможете создать детектор, который идентифицирует хот-дог, если люди не могут прийти к единому мнению о том, что такое хот-дог. Ух, какой бардак.

Хорошая новость в том, что Гидра Разума действительно проявляет к нам милосердие. В влиятельной статье исследователь AGI Маркус Хаттер (мы будем часто видеть его в этой серии) суммирует десятки исторических определений интеллекта в попытке ответить на поставленный выше вопрос [1]. Ниже я переписал некоторые из них, которые, на мой взгляд, были хорошими, которые действительно подчеркивают разницу в подходе к этой проблеме с психологической точки зрения и с точки зрения информатики:

Опять же, нет единого определения, но есть несколько моментов, которые следует отметить сверху, пытаясь прийти к разумному представлению о том, что делает кого-то «умным». Во-первых, в определениях ИИ большое внимание уделяется способности достигать целей в ограниченном / ограниченном проблемном пространстве. Это контрастирует с психологической точкой зрения, которая подчеркивает адаптацию к окружающей среде и рациональное мышление. Эта дихотомия будет более подробно рассмотрена позже в этой серии, но сейчас просто важно увидеть, что, опять же, существует множество точек зрения на то, что такое интеллект.

Также существует так называемый G-фактор (НЕ показатель того, насколько вы гангстер), который представляет собой попытку уловить то, что мы, люди, думаем, в едином интеллекте. количество. Еще в 1916 году психолог Льюис Терман представил концепцию IQ, рассчитываемого путем деления умственного возраста на физический [2] [3]. Общие способности, определяемые как психометрические g (G-фактор), возникают из эмпирического факта, что результаты различных когнитивных тестов положительно коррелируют в популяции [4] [5]. Таким образом, вкратце, этот общий интеллект, g, представляет собой попытку уловить различную динамику вещей, которые, по нашему мнению, делают людей «умными», - такие как производительность рабочей памяти, плавное рассуждение, визуальное пространственная обработка, числовые рассуждения и общие знания. Итак, теоретически человек, получивший высокие баллы по тестам IQ, которые проверяют такие вещи, как рабочая память (сколько из этих слов вы можете запомнить?), Визуально-пространственное мышление (какая следующая матрица в серии?) Или другие тесты таким образом, указанные ниже поля будут считаться интеллектуальными.

Итак, похоже, у нас есть твердое представление об интеллекте и хороший и краткий способ его количественной оценки. Верно? Возможно нет.

Наиболее распространенные тесты - это тест WAIS-4 / WIS-C, который, как обычно считается, измеряет некоторую степень g. Однако есть много возражений против тестов IQ, и о них стоит упомянуть:

  1. Тестирование интеллекта также обвиняется в несправедливом разделении тестируемых по расе, полу, классу и культуре; свести к минимуму важность творчества, характера и практических навыков; и пропаганды идеи, что люди рождаются с неизменным интеллектуальным потенциалом, который определяет их успех в жизни. [7]
  2. [Критики] отмечают, что тест IQ - это скорее мера ранее приобретенных навыков и знаний, чем базовых природных способностей, и что многие участники просто не привыкли сидеть на месте и выполнять приказы (условия, которые требуются для таких тестов), хотя они работают хорошо. в реальном мире. - Психологический словарь АПА [8]

Однако традиционно показатели IQ положительно коррелируют с жизненным успехом (что весьма спорно и до сих пор вызывает споры), так что вам, ботаникам из Mensa, может быть, действительно есть чем похвастаться ...

Еще одна «разновидность» интеллекта, имеющая научную поддержку, - это жидкий интеллект и кристаллизованный интеллект. В грубом упрощении гибкий интеллект состоит из динамических навыков, таких как (рабочая) память, скорость обработки, и обычно включает такие вещи, как способность рассуждать, анализировать и решать проблемы [10]. Он также уменьшается с возрастом. Это контрастирует с кристаллизованным интеллектом, который представляет собой способность использовать предыдущие знания для решения проблем и обычно приобретается через опыт и образование. Это традиционно возрастает с возрастом (надеюсь, по мере того, как вы приобретаете больше знаний и мудрости).

Наконец, вы, возможно, слышали о Теории множественного интеллекта доктора Говарда Гарднера, описанной ниже. Он видел свою долю противоречий, но его также стоит упомянуть при обсуждении интеллекта.

Согласно этой теории, существует 9 «типов интеллекта» [11]:

  1. Пространственный: визуализация мира в 3D.
  2. Натуралист: понимание живых существ и чтение природы.
  3. Музыкальные: разборчивые звуки, их высота, тон, ритм и тембр.
  4. Логические / математические: количественная оценка, построение / доказательство гипотез.
  5. Внутриличностный: понимание себя, того, что вы чувствуете / хотите.
  6. Межличностное: понимание чувств и мотивов людей.
  7. Лингвистический: поиск нужных слов.
  8. Экзистенциальный: принятие серьезных вопросов.
  9. Телесно-кинестетический: координация вашего разума с телом.

Это был вихрь. Интеллект сбивает с толку. Есть много разных типов, и в психологии даже не существует единого мнения о том, что это такое. Плохая новость для нас, потому что это говорит о том, что мы пытаемся найти решение проблемы, которую можем даже не знать правильно. Однако мы можем попытаться сойтись на чем-то, что напоминает человеческий интеллект ...

Часть II: Почему так сложно воспроизвести GI?

Мы ищем недостижимую цель?

К этому моменту вы, вероятно, спросите: Господи, Майк, я просто хочу узнать об AGI. Почему все эти разговоры об интеллекте актуальны? Что ж, мы не можем надеяться идентифицировать что-то как искусственный интеллект (или искусственно в целом интеллект, если на то пошло), если мы не знаем, что такое интеллект . Это общая тема, которая много раз будет подниматься в этом курсе: сознание, эмоции, чувства и т. Д.

Итак, проблема в том, что теперь машины действительно хороши в узких задачах, поскольку ИИ преуспел в определенных областях, таких как игра в Go, обнаружение спама и (что удивительно) рекомендации плейлистов Spotify. Однако у компьютеров теперь отсутствует способность обобщать знания на другие области и показывать какую-либо степень g (пока). Это суть проблемы, и оксфордский философ Ник Бостром (который появится МНОГО позже) прекрасно выразил это:

«Компьютерный ученый Дональд Кнут был поражен тем, что« ИИ к настоящему времени преуспел в выполнении практически всего, что требует «мышления», но не смог сделать большую часть того, что люди и животные делают «не задумываясь» - это почему-то намного сложнее! »

Быстрый обход терминологии, как будто мы не проясним это, но знаем, что позже будет беспорядок. Традиционно машинное обучение (ML) является подмножеством ИИ, в то время как ИИ является подмножеством AGI (или, в зависимости от того, кто спрашивает, это способ достижения AGI) . AGI - это самый широкий класс, содержащий как ИИ, так и машинное обучение, а традиционный или разговорный ИИ обычно называют «узким ИИ» или «слабым ИИ»: разработка систем, которые разумно справлялись с одним узким домен [6]. Сегодня большое внимание ИИ уделяется такому узкому ИИ, как компьютерное зрение, глубокое обучение и НЛП. Исследователь ИИ Стэн Франклин говорит [6] :

В течение десяти лет [после 1957 года] стало совершенно очевидно, что проблемы, которые ИИ должен был преодолеть, чтобы этот «сильный ИИ» стал реальностью, огромны, возможно, неразрешимы.

Это обнадеживает нас, AGI, народ ...

Ладно, в любом случае: теперь, когда у нас есть хороший опыт в области интеллекта, мы можем найти несколько довольно хороших определений AGI. Мы сделаем то, что делают все великие люди в современной истории, когда зададут вопрос: смотрим в Википедию:

  1. Википедия: Общий искусственный интеллект (ОИИ) - это интеллект машины, который может понять или изучить любую интеллектуальную задачу, которую может выполнить человек.

Я думаю, что это довольно твердое определение, которое отражает общее представление о том, что такое AGI, но ему просто не хватает более глубокой основы, которую затрагивают Общество AGI, а также доктор Бен Гертцель:

  1. Общество AGI: системы общего назначения с интеллектом, сопоставимым с человеческим разумом (и, возможно, в конечном итоге намного превосходящим общий интеллект человека).
  2. Гертцель: Создание систем, которые выполняют специфическое «разумное» поведение, сравнимое с человеческим или превосходящее его »[2].

Я думаю, что приведенное ниже определение для этого курса и серии блогов очень хорошо и может нам пригодиться. Это то, за чем вы, вероятно, пришли:

  1. Об интеллекте: способность узнавать новую информацию и применять ее для решения новых проблем творческими и практическими способами.
  2. ОИИ: синтетический общий интеллект человеческого уровня, который может выполнять любую когнитивную задачу, которую может выполнить человек. Обладает широким спектром интеллекта в различных областях и так же хорошо (или лучше, чем) человек в большинстве, если не во всех, из этих областей решения проблем.

Опять же, я думаю, что они довольно хороши и могут служить для нас хорошим руководством в будущем, и в целом это то, что я имею в виду, когда говорю «AGI» до конца курса. Если вы профессиональный исследователь разведки и вас это не устраивает (не распинайте меня), дайте мне знать, и мы внесем поправки! Но я думаю, что пока это достаточно :)

Часть III: Что должен уметь ОИИ?

Надеюсь, не уничтожить человечество ...

Существует нечто, что доктор Герцель называет гипотезой Core AGI [2]:

Создание и изучение синтетического интеллекта с достаточно широким (например, человеческим уровнем) охватом и сильной способностью к обобщению качественно отличается от создания и изучения синтетического интеллекта со значительно более узким охватом и более слабой способностью к обобщению.

По сути, это означает, что создание и исследование AGI категорически отличается во многих отношениях от ИИ - от исследований и разработок до этики и развертывания. И снова Гертцель излагает это нам [2]:

Конкретная цель, лежащая в основе концепции и термина «AGI», - сосредоточить внимание на общем объеме и возможностях обобщения определенных интеллектуальных систем, таких как люди, теоретическая система, такая как AIXI ( Hutter, 2005), а также подмножество потенциальных будущих синтетических интеллектов.

То есть, грубо говоря, система AGI - это тип синтетического интеллекта, который может применять свои знания к широкому кругу задач и областей.

В более широком смысле многие считают, что ОИИ должен уметь делать такие вещи, как [1] ​​[6]:

  1. Имейте фиксированную структуру для всех задач.
  2. Осознайте систему символов.
  3. Представляйте и эффективно используйте знания, специфичные для модальностей.
  4. Представлять и эффективно использовать большие массивы разнообразных знаний.
  5. Представлять и эффективно использовать убеждения независимо от текущего восприятия.
  6. Представляйте и эффективно используйте обширные знания в области иерархического управления.
  7. Представляйте и эффективно используйте метакогнитивные знания.
  8. Поддержите спектр неограниченного и ограниченного обсуждения.
  9. Поддержка, разнообразное, всестороннее обучение.
  10. Поддержка инкрементального онлайн-обучения.

… И я думаю, что это подходящее место для проведения исследований и разработок, и многие активно этим занимаются.

Часть IV: Заключение

TL;DR

Интеллект сбивает с толку, и ему есть много определений. Короче говоря, AGI расширяет возможности ИИ в попытке охватить способность обобщения, то есть способность выполнять умственные задачи так же или лучше, чем люди, в самых разных областях.

«Чтобы действовать разумно, нужно нечто большее, чем разум».

- Федор Достоевский, Преступление и наказание

об авторе

Майк Фергюсон - начинающий разработчик вычислительных исследований в DiCarlo Labs при Массачусетском технологическом институте. Он будет работать над Brain-Score, инструментом для измерения того, насколько нейронные сети похожи на мозг. Весной 2021 года он окончит Университет Вирджинии со степенью бакалавра компьютерных наук и прикладной математики, а также степень бакалавра в области когнитивных наук и философии. Он является участником книги Недельное испытание и за два года прочитал более 138 книг об ИИ, философии и о том, что значит быть человеком. Он живет в Шарлоттсвилле, штат Вирджиния, со своим коренастым бойцом Уинстоном, бернским зенненхундом.

Использованная литература:

  1. Легг, Шейн и Маркус Хаттер. «Сборник определений интеллекта». Границы в области искусственного интеллекта и приложений 157 (2007): 17.
  2. Герцель, Бен. «Общий искусственный интеллект: концепция, современное состояние и перспективы на будущее». Журнал общего искусственного интеллекта 5.1 (2014): 1–48.
  3. Терман, Льюис М. «Психическая гигиена выдающихся детей». Педагогическая семинария 22.4 (1915): 529–537.
  4. Спирмен, Чарльз. «Объективно определяется и измеряется« Общая разведка »». (1961).
  5. Дженсен, Артур Р. «Фактор g: психометрия и биология». Симпозиум Фонда Новартис. Чичестер; Нью-Йорк; Джон Вили; 1999, 2000.
  6. Франклин, С. «Основополагающая архитектура для общего искусственного интеллекта». Достижения в области искусственного интеллекта: концепции, архитектуры и алгоритмы 6 (2007): 36.
  7. Https://www.apa.org/monitor/feb03/intelligent
  8. Https://dictionary.apa.org/iq
  9. Https://www.oughttco.com/fluid-crystallized-intelligence-4172807
  10. Лэрд, Джон Э. и др. «Заявления и проблемы при оценке интеллектуальных систем человеческого уровня». Труды 2-й конференции по общему искусственному интеллекту (2009 г.). Атлантис Пресс, 2009.
  11. 9 типов интеллекта - инфографика (adioma.com)