Как улучшить интеллект беспилотных автомобилей

К семи месяцам большинство детей узнают, что предметы все еще существуют, даже когда они находятся вне поля зрения. Положите игрушку под одеяло, и такой старый ребенок будет знать, что она все еще там, и что он может залезть под одеяло, чтобы вернуть ее. Это понимание «постоянства объекта» является нормальным этапом развития, а также основным принципом реальности.

Этого также нет в беспилотных автомобилях. И это проблема. Беспилотные автомобили становятся все лучше, но они все еще не понимают мир так, как человек. Для беспилотного автомобиля велосипед, который на мгновение скрыт проезжающим фургоном, - это велосипед, который прекратил свое существование.

Этот недостаток лежит в основе широко распространенной в настоящее время вычислительной дисциплины, присвоившей себе слегка вводящее в заблуждение прозвище искусственный интеллект (AI). Текущий ИИ работает путем построения сложных статистических моделей мира, но ему не хватает более глубокого понимания реальности. Как придать ИИ хоть какое-то подобие этого понимания - возможно, способности рассуждать семимесячного ребенка - сейчас является предметом активных исследований.

Современный ИИ основан на идее машинного обучения. Если инженер хочет, чтобы компьютер распознал знак остановки, он не пытается написать тысячи строк кода, описывающих каждый образец пикселей, который, возможно, может указывать на такой знак. Вместо этого он пишет программу, которая может учиться сама, а затем показывает этой программе тысячи изображений знаков остановки. После множества повторений программа постепенно выясняет, что общего у всех этих изображений.

Подобные методы используются для обучения беспилотных автомобилей работе в условиях дорожного движения. Таким образом, автомобили учатся соблюдать разметку полосы движения, избегать других транспортных средств, тормозить на красный свет и т. Д. Но они не понимают многих вещей, которые водитель-человек считает само собой разумеющимся - что у других автомобилей на дороге есть двигатели и четыре колеса, или что они подчиняются правилам дорожного движения (обычно) и законам физики (всегда). И они не понимают постоянства объекта.

В недавней статье в журнале Искусственный интеллект Мехул Бхатт из Университета Эребро в Швеции, который также является основателем фирмы CoDesign Lab, которая занимается коммерческим развитием его идей, описывает другой подход. Он и его коллеги взяли некоторые существующие программы искусственного интеллекта, которые используются в беспилотных автомобилях, и прикрепили к ним часть программного обеспечения, называемого механизмом символьного мышления.

У сердца свои причины ...

Вместо вероятностного подхода к миру, как это делает машинное обучение, это программное обеспечение было запрограммировано для применения основных физических концепций к выходным данным программ, обрабатывающих сигналы от датчиков автономного транспортного средства. Этот измененный выходной сигнал затем был передан в программное обеспечение, которое управляет транспортным средством. Включенные концепции включали идеи о том, что дискретные объекты продолжают существовать во времени, что они имеют пространственные отношения друг с другом - например, «впереди» и «позади» - и что они могут быть полностью или частично видимыми или полностью скрыто другим объектом.

И это сработало. В тестах, если одна машина на мгновение блокировала вид другой, программное обеспечение с расширенными возможностями рассуждений могло отслеживать заблокированный автомобиль, предсказывать, где и когда он снова появится, и при необходимости предпринять шаги, чтобы избежать его. Улучшение не было огромным. При стандартных тестах система доктора Бхатта набрала примерно на 5% больше баллов, чем существующее программное обеспечение. Но принцип подтвердился. И это дало еще кое-что. Потому что, в отличие от алгоритма машинного обучения, механизм рассуждений может сказать вам причину, по которой он сделал то, что он сделал.

Вы можете, например, спросить автомобиль, оснащенный логическим двигателем, почему он нажал на тормоза, и он сможет сказать вам, что, по его мнению, велосипед, спрятанный за фургоном, вот-вот въедет на перекресток впереди. Программа машинного обучения не может этого сделать. Эта информация, по мнению доктора Бхатта, не только поможет улучшить структуру программ, но и поможет регулирующим органам и страховым компаниям. Таким образом, это может ускорить общественное признание автономных транспортных средств.

Работа доктора Бхатта является частью давних дискуссий в области искусственного интеллекта. Ранние исследователи искусственного интеллекта, работавшие в 1950-х годах, отметили некоторые успехи, используя такого рода заранее запрограммированные рассуждения. Но, начиная с 1990-х годов, машинное обучение резко улучшилось благодаря более совершенным методам программирования в сочетании с более мощными компьютерами и наличием большего количества данных. Сегодня почти весь искусственный интеллект основан на нем.

Однако доктор Бхатт не одинок в своем скептицизме. С ним соглашается Гэри Маркус, изучающий психологию и нейронику в Нью-Йоркском университете, а также руководитель компании Robust.ai, занимающейся искусственным интеллектом и робототехникой. В поддержку своей точки зрения доктор Маркус приводит результаты, получившие широкую огласку, хотя и сделанные восемь лет назад. Это было, когда инженеры DeepMind (в то время независимая компания, ныне входившая в состав Google) написали программу, которая могла без подсказок о правилах научиться играть в Breakout, видеоигру, которая включает в себя удары по движущемуся виртуальному мячу с помощью виртуальная ракетка.

Программа DeepMind была великолепным исполнителем. Но когда другая группа исследователей возилась с кодом Breakout - сместив расположение лопастей всего на несколько пикселей - его возможности резко упали. Он не мог обобщить то, что он узнал из конкретной ситуации, даже на ситуацию, которая лишь немного отличалась.

Назад в будущее

Для доктора Маркуса этот пример подчеркивает хрупкость машинного обучения. Но другие думают, что это символическое рассуждение, которое хрупко, и что машинное обучение все еще имеет большой пробег. Среди них Джефф Хоук, вице-президент по технологиям лондонской компании по производству беспилотных автомобилей Wayve. Подход Wayve заключается в обучении программных элементов, запускающих различные компоненты автомобиля одновременно, а не по отдельности. Во время демонстраций автомобили Уэйва принимают правильные решения, двигаясь по узким лондонским улицам с интенсивным движением транспорта - задача, которая бросает вызов многим людям.

По словам доктора Хоука, «сложность большинства реальных задач выше, чем можно решить с помощью правил, созданных вручную, и хорошо известно, что экспертные системы, построенные на основе правил, имеют тенденцию бороться со сложностью. Это верно независимо от того, насколько хорошо продумана или структурирована формальная логика ». Такая система могла бы, например, выработать правило, согласно которому автомобиль должен останавливаться на красный свет. Но в разных странах фары проектируются по-разному, и некоторые из них предназначены для пешеходов, а не для автомобилей. Бывают ситуации, когда вам может понадобиться перепрыгнуть на красный свет, например, чтобы уступить дорогу пожарной машине. «Прелесть машинного обучения, - говорит доктор Хоук, - в том, что все эти факторы и концепции могут быть автоматически обнаружены и изучены на основе данных. А с большим количеством данных он продолжает учиться и становиться более умным ».

Николас Райнхарт, изучающий робототехнику и искусственный интеллект в Калифорнийском университете в Беркли, также поддерживает машинное обучение. Он говорит, что подход доктора Бхатта действительно показывает, что вы можете комбинировать два подхода. Но он не уверен, что это необходимо. В его работе, а также в работе других, одни только системы машинного обучения могут предсказывать вероятности на несколько секунд в будущем - например, может ли другая машина уступить дорогу или нет - и составлять планы действий на случай непредвиденных обстоятельств, основанные на этих предсказаниях.

Доктор Бхатт отвечает, что вы можете обучить машину, используя данные, накопленные за миллионы километров вождения, и при этом не быть уверенным, что вы учли все необходимые ситуации. Во многих случаях может быть проще и эффективнее запрограммировать некоторые правила с самого начала.

Для чемпионов обеих стратегий вопрос выходит за рамки самоуправляемых автомобилей, а стоит вопрос о будущем самого искусственного интеллекта. «Я не думаю, что сейчас мы используем правильный подход», - говорит доктор Маркус. «[Машинное обучение] оказалось полезным для некоторых вещей, таких как распознавание речи, но на самом деле это не ответ на ИИ. На самом деле мы еще не решили проблему разведки ». Так или иначе, похоже, семимесячным детям еще есть чему научить машины.