Обзор книги Мартина Форда «Архитекторы интеллекта» (Packt, 2018 г.)

В конце прошлого года мне прислали рецензию на новую книгу по ИИ. Я прочитал его на Рождество, и, поскольку он был довольно хорош, я решил сделать небольшой обзор здесь, так как в последнее время я был очень занят, управляя всплеском роста в Hospify, и не публиковал на своем Medium. блог некоторое время.

Книга называется Архитекторы интеллекта: правда об ИИ от людей, которые его создают и, как следует из названия, представляет собой сборник интервью, проведенных Мартином Фордом, чья недавняя книга Восстание роботов ( которую я не читал) получила различные аплодисменты, в том числе Бизнес-книга года по версии Financial Times.

Когда я получил книгу, я должен признаться, не был переполнен энтузиазмом. Я прочитал довольно много информационных бюллетеней по ИИ и прослушал довольно много подкастов об ИИ (TWIML AI — мой любимый — спасибо Сэму Чаррингтону), и, просматривая список интервьюируемых, я почувствовал, что это сборник размышлений обычные подозреваемые — Йошуа Бенжио, Джеффри Хинтон, Янн ЛеКун, Демис Хассабис, Рэй Курцвейл, Гэри Маркус, Эндрю Нг, Джефф Дин и др. Хотя это, несомненно, список очень умных людей, каждый из которых преуспел в своей области и может многое сказать, я действительно чувствовал, что уже прочитал или прослушал множество интервью со всеми ними, и задался вопросом, что можно было бы добавить еще один набор расшифровок в разговоре. В конце концов, ИИ — это техническая область, и есть момент, когда общее обсуждение этого вопроса теряет свое очарование, и что вы хотите от практиков, так это более глубокого погружения в гайки и болты задействованных методов (одна из вещей, к которой стремится TWIML AI). для и часто достигает), а не еще один обзор пейзажа.

Однако по мере того, как я просматривал 23 интервью, приведенных в книге, стало очевидным, что Форд делал что-то весьма интересное. Большая новость в области ИИ на данный момент — это, конечно же, успехи, достигнутые в области глубокого обучения многими из перечисленных выше светил — в частности, Бенжио, Хинтоном, Хассабисом, Нг, ЛеКуном. Форд группирует этих парней в первой половине сборника, перемежая их философским прикрытием со стороны таких, как Ник Бостром и Рэй Курцвейл, последний в своем интервью подчеркивает, что «коннекционизм может подражать подходу, основанному на правилах, [но ] система, основанная на правилах, действительно не может эмулировать коннекционистскую систему, поэтому обратное утверждение неверно».

Все это прекрасно, насколько это возможно. Не поймите меня неправильно. Я люблю глубокое обучение. Я впервые столкнулся с работой Хинтона (вместе с Румелхартом и Макклелландом) в области коннекционизма (то есть глубокого обучения и нейронных сетей) еще в аспирантуре в 1992 году, и это поразило меня. Я думаю, что работа, проделанная в последние годы для его реализации, была потрясающей, и мне не нужно говорить вам, что это было настолько трансформационным для вычислений, что оно вдохнуло новую жизнь в всю отрасль. Я даже написал несколько своих проектов глубокого обучения.

В то же время, однако, будучи студентом философии и нейрофизиологии, я скептически относился (и остаюсь) к заявлениям о том, что нейронные сети с глубоким обучением, которые на самом деле лишь приблизительно отражают то, как мы думаем, что мозг работает в самом расплывчатом смысле, — это все, что нужно для интеллект. В конце концов, интеллект — это не только обучение. Это еще и о желании. Философом, которого я любил больше всего в аспирантуре, был Жиль Делёз, который описал абстрактные процессы, лежащие в основе жизни (и, следовательно, интеллекта), как «желающие машины». Глубокое обучение фиксирует машинный аспект этого кортежа, а также любого процесса, который мы смогли реализовать на компьютере. Чего он не улавливает, так это «желания». До сих пор эта часть — часть, которую хочет система, то, что оправдывает ее существование, заставляет ее действовать и оценивает ее результаты — все еще предоставляется — на каждом этапе — людьми, которые строят систему. Пока машина не возьмет на себя хотя бы часть этого, «искусственный интеллект» останется неправильным. То, что у нас будет, как и сейчас, — это «расширенный интеллект» или «машинное обучение», термин, который я предпочитаю.

Эта мелочь — момент, когда «Архитекторы интеллекта» начинают приобретать популярность и впоследствии становятся действительно интересными. Форд сгруппировал скептиков (под которыми я подразумеваю тех, кто, как и я, считает, что это не мелочь, а вся суть проблемы), поэтому, как только вы думаете, что аргумент исчерпан, начинают звучать голоса несогласных. поверхность. Психолог и технолог Гэри Маркус является своего рода их чирлидером, но здесь есть много других людей с большим опытом, особенно в робототехнике — Рана Эль Калиуби, Родни Брукс, Синтия Бризил, Джошуа Тененбаум — которые многократно и убедительно указывают на то, что суровая истина заключается в том, что глубокое обучение, хотя и является фантастическим средством для извлечения закономерностей из огромных массивов данных и поиска сигналов в шуме, выходящих за пределы человеческих возможностей, просто не подходит для обобщения на основе выборок меньшего размера. В мире анализа текста, голоса или изображений это не проблема, по крайней мере, не сейчас, когда у нас есть огромные ресурсы глобального Интернета, чтобы бросить на это. Но как только вы покидаете фермы серверов и попадаете в физический мир, это становится камнем преткновения, поскольку обобщение на основе небольших выборок — это способ, с помощью которого подлинно (а не искусственно) интеллектуальные агенты могут экстраполировать управляемый желанием маршрут через мир около которых, на самом деле, они очень мало знают.

Концептуальное прикрытие во второй половине книги предоставлено Джудеей Перл, которая, как и Хинтон, была вдохновлена ​​работами Дэвида Румельхарта и, как и Курцвейл, обладала настоящими техническими способностями, но при этом дает серьезное понимание природы вероятности и причинно-следственной связи. моделирование (и, таким образом, желание продолжить мою прежнюю терминологию), демонстрируя философскую глубину, выходящую далеко за пределы несколько волнующих футуристических экстраполяций его коллег в первой половине книги.

Форд прекрасно резюмирует мысль: «Причинно-следственная связь никогда не может быть изучена только на основе данных». В статистике это почти клише. «Причинно-следственная связь — это не корреляция» — эту фразу статистики регулярно повторяют друг другу (и своим ученикам), чтобы напомнить себе о важности не придавать слишком большого значения необработанным данным. Но клише, как часто бывает с клише, — это флаг, пришпиленный на месте глубокой истины. Мало того, что это не причинно-следственная связь, это не корреляция, но это совершенно разные звери, один из которых — вам скажет любой квантовый физик — мы едва ли можем претендовать на понимание. Цитирую Перл:

«Ребенок изучает причинно-следственную структуру посредством игровых манипуляций, и так ученый изучает причинно-следственные связи — игровые манипуляции. Но у нас должны быть способности и шаблон для хранения того, что мы узнали из этой игровой манипуляции, чтобы мы могли использовать это, тестировать и изменять. […] Это первое, чему мы должны научиться; мы должны запрограммировать компьютеры, чтобы приспособиться к этому шаблону и управлять им».

Нейронные сети берут образцы размером в тысячи или миллионы и обнаруживают закономерности в данных. Люди берут размер выборки из одного и обобщают закономерности из этого семени. В этом разница между обучением и интеллектом. Мы построили машины, демонстрирующие первое. Мы очень далеки от их создания, чтобы выставлять последние.

Поэтому, если вы будете придерживаться его на протяжении всех 500 или около того страниц (и я предлагаю вам это сделать и читать интервью последовательно), я думаю, вы обнаружите, как и я, что это далеко не случайный обзор. Из самовозвеличивающих мыслей нынешнего поколения гениев машинного обучения «Архитекторы интеллекта» на самом деле представляют собой очень подробный и полный обзор области и отличную карту как ее достижений, так и ее очень реальных проблем.

Хотя в нем не так много технических подробностей, в нем есть подлинный философский и концептуальный нюанс, и после прочтения я ушел с уверенностью в том, что чувствовал в течение некоторого времени — что искусственный общий интеллект намного дальше, чем многие другие. заставили бы нас поверить, но это далеко не разочарование, а на самом деле это означает, что нынешний ажиотаж вокруг глубокого обучения является лишь первым из многих подобных расцветов, которые будут удерживать человечество в напряженной работе, по крайней мере, в течение следующих нескольких столетий. мы приближаемся к все более глубокому пониманию того, что значит строить разум.