Аргументы против суперинтеллекта или общего ИИ в ближайшем будущем действительно набирают обороты с недавними книгами Мелани Митчелл и Гэри Маркус, возвращающими столь необходимый здравый смысл в дебаты. В частности, Twitter-лента Гэри - отличная отправная точка для изучения того, как заявления об ИИ вышли из-под контроля.
Общий вопрос об ИИ интересовал меня в течение некоторого времени, и в моей книге Превышен численностью я подошел к проблеме, используя свой собственный опыт в математической биологии. Я взял отправную точку, с которой мы все можем согласиться: в настоящее время ИИ не может выполнять все задачи человеческого уровня. Затем я спросил, может ли он конкурировать с другими животными? Я хочу найти самый продвинутый организм, чей интеллект мы в настоящее время понимаем.
Некоторые люди, в том числе многие ученые, которым следовало бы лучше знать, говорят о животных в терминах простых реакций на стимулы. Классический пример - у собаки Павлова слюноотделение при звуке колокольчика. Любой, у кого есть собака, скажет вам, что эта павловская точка зрения является чрезмерным упрощением, и они правы. Типичный взгляд владельца собаки на своих питомцев как на членов семьи и друзей - это не просто эмоциональный, антропоцентрический взгляд. Это соответствует тому, как большинство современных поведенческих биологов рассматривают одомашненных животных, как обладающих многими из наших сложных форм поведения. Джулиана Камински, руководитель проекта по познанию собак в Университете Саутгемптона, обнаружила, что собаки могут учиться так же, как маленькие дети, принимать во внимание взгляд своего хозяина на мир при принятии решения о том, какие предметы принести, и понимать наши намерения, исходя из нашего опыта. движения тела [i].
Эти качества - понимание контекста различных ситуаций и умение учиться - остаются открытыми вопросами в исследованиях искусственного интеллекта. Пока мы не добьемся более значительного прогресса в моделировании человека, чем до сегодняшнего дня, мы не сможем моделировать собак, кошек и других домашних животных.
Возможно, я слишком увлекся собаками, так что давайте перейдем на несколько уровней к насекомым и, в частности, пчелам. Ларс Читтка из Лондонского университета королевы Марии недавно подтвердил, что мы стали лучше понимать познание пчел, и обнаружил, что пчелы обладают удивительным интеллектом [ii]. После нескольких полетов вокруг своих гнезд новорожденные пчелы имеют хорошее представление о том, как выглядит их мир. Затем они быстро принялись за сбор еды. Рабочие пчелы узнают запах и цвет лучших цветов и решают «проблему коммивояжера», заключающуюся в посещении доступных источников пищи в кратчайшие сроки. Они могут помнить, где они столкнулись с угрозами, и иногда «видеть призраков», поскольку они реагируют на предполагаемую опасность, которой нет. Пчелы, находящие много еды, становятся оптимистичными и начинают недооценивать опасность нападений хищников. Базовая нейронная сеть в форме мозга пчелы имеет совершенно иную структуру, чем у искусственных сверточных или рекуррентных нейронных сетей. Кажется, что пчелы способны распознавать разницу между объектами, используя всего четыре входных нейрона, и, похоже, не имеют какого-либо внутреннего представления изображений. Другие более простые задачи «стимул-реакция», которые можно было бы смоделировать как небольшое количество логических вентилей, вместо этого воздействуют на целые области мозга.
Самое замечательное в пчелах - это то, что они могут научиться играть в футбол! Ну не совсем футбол, но игра очень нравится. Исследовательская группа Ларса обучила пчел проталкивать мяч в ворота. Пчелы могут научиться выполнять эту задачу разными способами, в том числе наблюдая, как пластиковая модель пчелы толкает мяч, и наблюдая, как другие настоящие пчелы выполняют задачу. Им не нужно было много практиковаться в игре, чтобы выучить задание. Катание мяча - это не то, с чем пчелы обычно сталкиваются в своей жизни, поэтому исследование показывает, что пчелы могут быстро научиться новому поведению без необходимости повторных попыток проб и ошибок. Это как раз та проблема, которую искусственные нейронные сети пока не могут решить. Пчелы могут использовать свои навыки в других областях, чтобы решить новую проблему, например, футбол.
Здесь важно помнить, что вопрос общего искусственного интеллекта не в том, лучше ли компьютеры справляются с конкретными задачами, чем люди. Мы уже видели, что компьютер может играть в такие игры, как шахматы, го и покер, лучше, чем люди. Так что я не думаю, что машинам будет сложно победить пчелу в этих играх. Вопрос в том, можем ли мы производить обучение снизу вверх на компьютере того типа, который широко наблюдается у животных. На данный момент пчелы могут обобщать свое понимание мира в отличие от компьютеров.
Вид червя C. elegans - одно из самых простых живых существ. Полностью развитый взрослый человек состоит из 959 клеток, из которых около 300 - нейроны. Для сравнения: 37 200 000 000 000 клеток в вашем теле [iii] и 86 000 000 000 нейронов в вашем мозгу. С. elegans широко изучаются, потому что, несмотря на их относительную простоту, они обладают многими нашими свойствами, включая поведение, социальное взаимодействие и обучение.
Моника Шольц из Чикагского университета недавно создала модель того, как червь использует вероятностный вывод, чтобы решить, когда двигаться [v]. Червь «опрашивает» свою местную среду, чтобы измерить, сколько еды доступно, а затем «предсказывает», лучше ли остаться на месте или начать поиск новых ресурсов. Подобные исследования раскрывают детали принятия решений червями, но еще не моделируют организм в целом. Отдельный проект, известный как OpenWorm, пытается уловить аспекты механики движения червей, но требуется дополнительная работа, чтобы собрать эти модели вместе и воспроизвести C. elegans ’ полный репертуар поведения. На данный момент мы действительно не знаем, как 959 клеток действуют вместе, и поэтому не можем правильно смоделировать поведение одного из простейших животных на Земле.
Так что давайте забудем, по крайней мере, на время, о создании интеллекта собаки, пчелы, червяка или даже футболиста. Как насчет амебы? Можем ли мы воспроизвести интеллект микроорганизмов?
Слизистая плесень, Physarum polycephulum, представляет собой амебоидный организм, который строит крошечные сети трубок для транспортировки питательных веществ между различными частями своего тела. Одри Дюссютур из Тулузского университета во Франции показала, что слизистые плесени привыкают к кофеину, веществу, которого они обычно стараются избегать, а затем возвращаются к своему нормальному поведению, когда им предоставляется возможность отказаться от этого вещества [vi]. Другие исследования показали, что слизистые плесени могут предвидеть периодические события, выбирать сбалансированную диету, обходить ловушки и создавать сети, которые эффективно соединяют различные источники пищи. Слизь можно рассматривать как разновидность распределенного компьютера, принимающего сигналы от разных частей своего тела и принимающего решения на основе своего предыдущего опыта. Все это происходит без участия мозга и нервной системы.
Возможно, в ближайшем будущем удастся создать исчерпывающую математическую модель плесневых грибов, но мы, конечно, еще не достигли этого. «Память» и обучение слизи потенциально могут быть смоделированы с помощью электрического компонента, известного как «мемристор», комбинации резистора и конденсатора, который обеспечивает форму гибкой памяти [vii]. Но мы до сих пор не знаем, как создать сеть мемристоров, чтобы они могли сочетаться друг с другом и решать проблемы, как слизистая плесень.
Следующим шагом вниз по биологической сложности от слизистой плесени являются бактерии. Бактерии E. coli - это «жучок», который живет в нашем кишечнике. Хотя большинство штаммов являются доброкачественными или даже полезными, некоторые из них вызывают пищевое отравление. Э. coli и другие бактерии перемещаются по нашему телу, поглощают сахар и «решают», как расти и когда расщепляться [viii]. Они легко адаптируются. Когда вы выпиваете стакан молока, гены, отвечающие за усвоение лактозы, активируются в E. coli, но если вы затем съедите плитку шоколада, гены, которые перерабатывают глюкозу, которую «предпочитает» кишечная палочка, подавляют гены лактозы. Бактерии бегают и кувыркаются, бегая в одном направлении, а затем кувыркаются, чтобы «выбрать» новое направление. Они настраивают эти "кувырки" в соответствии с качеством окружающей среды, в которой они находятся. Каждая из различных "целей" бактерий - получение ресурсов, перемещение и размножение - уравновешивается различными комбинациями включения и выключения генов.
В 2018 году Microsoft объявила, что они разработали ИИ, который научился играть в игру Atari Ms. Pac Man. Э. coli уравновешивает различные цели в поисках ресурсов, очень похоже на мисс Пак-Ман. Задачи этих двух организмов, искусственного и реального, которые стремятся выполнить, очень похожи. Чтобы адаптироваться, они оба должны реагировать на входные сигналы от множества разных источников: E. coli регулирует потребление ресурсов, реагирует на опасности и преодолевает препятствия. Нейроны Пак-Мэн реагируют на призраков, пищевые гранулы и структуру лабиринта. Тела, в которых живут бактерии, не идентичны, как и лабиринты Ms Pac-Man, но алгоритмы, которые использует каждый из них, достаточно гибкие, чтобы справляться с широким спектром экологических проблем.
Я нашел ближайший биологический эквивалент самого высокого уровня современного ИИ. Это ошибка живота.
Один из аргументов против моей аналогии с мозгом и бактериями заключается в том, что мы не можем моделировать червей и слизистые плесени, потому что мы не знаем, чего стремятся достичь эти организмы. Некоторые исследователи нейронных сетей, с которыми я разговаривал, утверждали, что мы не знаем, что эти эксперты называют целевой функцией червей. Чтобы обучить нейронную сеть, мы должны быть в состоянии сказать ей, какой паттерн она должна создавать, и теоретически, если мы знаем паттерн, то есть целевую функцию, мы должны иметь возможность воспроизвести паттерн. В этом аргументе есть некоторая обоснованность - биологи не полностью понимают C. elegans или слизистых форм.
Однако в конечном итоге аргумент «назовите нам целевую функцию» обходит реальную проблему. Экспериментальная работа биологов над интеллектом больше раскрывает как работает мозг - понимание связей между нейронами и ролями различных частей мозга - чем раскрывает общую картину почему У нашего мозга есть определенные цели. Если нейробиологи собираются работать вместе с экспертами по искусственному интеллекту для создания интеллектуальных машин, тогда эта совместная работа не может полагаться на то, что биологи найдут объективную функцию животных и сообщат ее экспертам по машинному обучению. Прогресс в области искусственного интеллекта должен включать совместную работу биологов и компьютерных ученых, чтобы понять детали мозга.
На мой взгляд, тесты ИИ должны основываться на тесте, впервые предложенном Аланом Тьюрингом в его знаменитом тесте имитационной игры [ix]. Компьютер проходит тест Тьюринга или «имитационную игру», если он может обмануть человека во время сеанса вопросов и ответов, чтобы он поверил, что это на самом деле человек. Это сложный тест, и мы далеки от его достижения, но мы можем использовать основной тест Тьюринга в качестве отправной точки для серии более простых тестов.
В менее цитируемом разделе своей статьи 1950 года Тьюринг предлагает моделирование ребенка как шаг к моделированию взрослого. Мы можем считать, что «прошли» тест в мини-игре с имитацией, когда уверены, что компьютер - это ребенок. Мой аргумент состоит в том, что мы должны использовать богатое разнообразие организмов на нашей планете в качестве серии тестовых примеров [x]. Можем ли мы воспроизвести интеллект слизистой плесени, червей и пчел в компьютерной модели? Если мы сможем запечатлеть их поведение при перемещении по окружающей среде и взаимодействии друг с другом, то мы можем утверждать, что создали модель их общего интеллекта. Пока мы не производим эти модели, мы должны внимательно относиться к предъявляемым требованиям. Основываясь на текущих данных, мы моделируем интеллект на уровне, аналогичном уровню отдельной бактерии.
Ну… не совсем так. Харм ван Зейен, исследователь Microsoft, создавший алгоритм Ms Pac-Man, очень осторожно объяснил, что его модель нельзя считать построенной с нуля. Он помог ему, посоветовав обращать внимание на призраков и гранулы. Напротив, знания бактерий об опасностях и преимуществах окружающей среды были получены снизу вверх, в процессе эволюции.
Харм сказал мне: «Многие люди, говорящие об ИИ, слишком оптимистичны, они недооценивают, насколько сложно создавать системы». Основываясь на своем опыте разработки Ms Pac-Man и других систем машинного обучения , он чувствовал, что мы действительно далеки от общей формы ИИ.
Даже если мы сможем создать полный бактериальный интеллект, Харм скептически относился к тому, насколько далеко мы можем пойти дальше. Он сказал: «Люди действительно хорошо умеют повторно использовать то, что мы узнаем, выполняя одну задачу для другой связанной задачи; наши современные алгоритмы ужасны в этом ».
Харм видел риск в том, чтобы давать нейросетям причудливые имена и делать громкие заявления.
Основатель компании, на которую сейчас работает Харм, вроде бы с ним согласен. В сентябре 2017 года Билл Гейтс сказал Wall Street Journal, что тема ИИ - это не то, из-за чего мы должны паниковать. Он сказал, что не согласен с Илоном Маском относительно срочности потенциальных проблем.
Итак, если мы в настоящее время имитируем уровень «интеллекта», аналогичный уровню «интеллекта», почему Илон Маск объявил ИИ такой серьезной проблемой? Почему Стивена Хокинга так беспокоит предсказательная сила его речевого программного обеспечения? Что заставляет Макса Тегмарка и его приятелей сидеть в ряду и один за другим заявлять о своей вере в приближение суперинтеллекта? Это умные люди, что затуманивает их мнение?
Я думаю, что есть сочетание факторов. Один коммерческий. DeepMind не повредит немного шумихи вокруг искусственного интеллекта. Демис Хассабис смягчил акцент на «интеллектуальном решении», который его компания имела, когда Google впервые приобрела DeepMind, и в недавних интервью уделяет больше внимания решению задач математической оптимизации. Работа над Go демонстрирует, что DeepMind занимает лидирующие позиции в таких проблемах, как открытие лекарств и оптимизация энергопотребления в электрических сетях, которые требуют тяжелых вычислений для поиска лучшего решения из множества доступных альтернатив. Без небольшой шумихи на раннем этапе DeepMind, возможно, не получил бы ресурсов для решения некоторых из этих важных проблем.
Вы можете узнать больше об искусственном интеллекте и всех алгоритмах в вашей жизни в Превышении численности.
[i] Камински, Джулиана, и Ницшнер, Мари. 2013. «Собаки понимают суть? Обзор коммуникативных способностей человека и собаки ». Обучение и мотивация 44, no. 4: 294–302.
[ii] Нижеследующий текст основан на обзоре Читтка, Ларс. 2017. «Пчелиное познание». Current Biology 27, no. 19: R1049–53.
[iii] Бьянкони, Ева, Пиовезан, Эллисон, Факчин, Федерика, Берауди, Алина, Касадеи, Рафаэлла, Фрабетти, Флавия, Витале, Лоренца и др. 2013. «Оценка количества клеток в организме человека». Annals of Human Biology 40, no. 6: 463–71.
[iv] Herculano-Houzel, Suzana. 2009. «Человеческий мозг в числах: линейно увеличенный мозг приматов». Frontiers in Human Neuroscience 3.
[v] Шольц, Моника, Ужин, Аарон Р., Левин, Эрель и Бирон, Дэвид. 2017. «Стохастическая динамика кормления возникает из-за потребности в информации и энергии». Proceedings of the National Academy of Sciences 114, no. 35: 9261–6.
[vi] Буассо, Ромен П., Фогель, Дэвид, и Дюссютур, Одри. 2016. «Привыкание у ненейронных организмов: данные по слизистой плесени». In Proc. R. Soc. Б, т. 283, нет. 1829, стр. 20160446. Королевское общество.
[vii] Я рассматриваю это более подробно в этой статье: Ма, Ци, Йоханссон, Андерс, Теро, Ацуши, Накагаки, Тошиюки и Самптер, Дэвид Дж. Т. 2013. «Текущие случайные блуждания для построения транспортных сетей». Интерфейс журнала Королевского общества 10, no. 80: 20120864.
[viii] Бейкер, Мелинда Д. и Сток, Джеффри Б. 2007. «Передача сигналов: сети и интегральные схемы в бактериальном познании». Current Biology 17, no. 23: R1021–4.
[ix] Тьюринг, Алан М. 1950. «Вычислительные машины и интеллект». Mind 59, no. 236: 433–60.
[x] Я рассмотрел один такой пример в следующей статье. Герберт-Рид, Джеймс Э., Роменский, Максим и Самптер, Дэвид Дж. Т. 2015. «Тест Тьюринга на коллективное движение». Письма по биологии 11, no. 12: 20150674.
