Узнайте, как обучать беспилотные автомобили справляться с такими ситуациями, как неизбежные аварии и издевательства.
Представьте себе автономный автомобиль, едущий по оживленной городской улице. Внезапно он замечает детей, переходящих дорогу. Слева встречный транспорт, справа здание, а сзади едет грузовик.
Что должен делать беспилотный автомобиль? Продолжать и бить детей? Или спасти их, превратившись в стену, даже если это повредит пассажирам? Это мысленное упражнение иллюстрирует этическую дилемму беспилотных автомобилей. Как они должны себя вести в сценариях неизбежных аварий? Кого они должны спасти в первую очередь? А кто будет нести ответственность за ущерб?
Компания Intellias составила обзор этики автономных транспортных средств. Читайте дальше, чтобы узнать, как беспилотный автомобиль изучает этические принципы и каковы этические проблемы беспилотных автомобилей.
Этика автономных транспортных средств помогает компьютеру принимать более точные решения
Хотя беспилотные автомобили, как правило, безопаснее, чем автомобили, управляемые людьми, все же существует небольшой риск их попадания в аварию. Фактически, исследователи говорят, что даже продвинутые автономные транспортные средства попадут в неизбежные аварии. Сегодня автономный автомобиль пытается передать управление водителю, если что-то пойдет не так. Но это не то, что обычно происходит в реальности, поскольку человеку на реакцию требуется больше времени, чем для того, чтобы произошла неизбежная авария. Таким образом, автономное транспортное средство должно взять на себя инициативу и действовать самостоятельно - только оно не действует так, как люди.
В стрессовых ситуациях, когда человек паникует и реагирует интуитивно, беспилотный автомобиль может отреагировать рационально. Он может видеть возможные пути, рассчитывать результаты, а затем выбирать лучший на основе всего этого анализа. Автономное транспортное средство может, например, предсказать альтернативные траектории столкновения и выбрать вариант с наименьшими повреждениями. Но если очевидного лучшего пути нет, как беспилотные автомобили узнают, какой путь выбрать?
Процесс принятия решений автономных транспортных средств сложен и включает в себя анализ данных из различных источников.
Процесс принятия решений в беспилотных автомобилях
Вот где помогает этика автономных транспортных средств. Правила этики позволяют беспилотным автомобилям принимать более обоснованные решения на дороге. Благодаря машинной этике автономные транспортные средства могут осознавать некоторые моральные принципы. Это означает, что они могут судить, как вести себя в разных ситуациях. Например, этика беспилотных автомобилей может позволить им нарушать закон, если это означает спасение чьей-либо жизни.
С этикой автономных транспортных средств возникают социальные и этические дилеммы
В эпоху цифровой революции и систем самообучения взаимодействие человека с машиной поднимает новые этические вопросы. Автоматизированное вождение с подключением к сети - самое последнее нововведение, в котором это взаимодействие можно найти повсюду.
/ Александр Добриндт, федеральный министр транспорта и цифровой инфраструктуры Германии /
Чтобы машина принимала решения на дороге, окружающим ее предметам должны быть присвоены значения. Возьмем, к примеру, дорожный конус. Он явно менее значим, чем человек, а это значит, что автомобиль должен врезаться в дорожный конус, а не на пешехода. Но вот что пугает: а как насчет ценностей среди людей? Так ли важны жизни пассажиров автомобиля, как и жизни других водителей? Кого выберет автомобиль, чтобы спасти в случае аварии? Пешеходы или пассажиры?
Различные сценарии поведения беспилотного автомобиля на дороге
а. Автомобиль предпочитает спасать многих пешеходов одному.
б. Автомобиль потенциально убивает пассажиров, но спасает пешехода.
c. Автомобиль спасает множество пешеходов, врезаясь в стену и потенциально убивая пассажиров.
Несомненно, людям тоже можно придавать разные ценности. Например, автомобиль может предпочесть спасать жизни своих пассажиров, а не другим. Фактически, именно этому Мерседес-Бенц хотел научить свои беспилотные автомобили, прежде чем ему пришлось отступить после публичного позора.
В качестве альтернативы, беспилотный автомобиль может быть нацелен на то, чтобы спасти молодежь от пожилых. В любом случае, транспортное средство приносит в жертву одну группу людей, спасая другую. И это очень похоже на дискриминацию. При неосторожном применении моральная система транспортного средства только умножает этические дилеммы беспилотных автомобилей, что может привести к снижению общественного доверия и увеличению проблем с безопасностью.
Автомобиль может принять одно решение, и это решение может снизить общее количество смертей на дороге, но оно может снизить их, в первую очередь [для] людей в возрасте 18–65 лет, но на самом деле увеличит количество смертей, которое мы имеем за 65 лет. старые.
/ Николас Эванс, доцент философии Массачусетского университета в Лоуэлле /
Основная этическая дилемма беспилотных автомобилей: это просто еще одна строчка кода.
Независимо от того, насколько сложна авария, беспилотным транспортным средствам придется решать, в какую сторону ехать и кого спасать. Проблема в том, что автономные автомобили не справятся с этим самостоятельно. По сути, моральную систему автомобиля создают разработчики. Поведение беспилотного автомобиля в аварии зависит от его этических алгоритмов аварии. В случае аварии автомобиль ведет себя так, как запрограммировано.
На данный момент ясно, что зависимость беспилотного автомобиля от строк кода может отпугнуть клиентов. Честно говоря, как люди могут доверять автономным автомобилям со скрытой логикой? Кроме того, когда поведение автономного автомобиля зависит от его программных систем, возникает проблема ответственности. Кто будет виноват в неправильном решении автомобиля? Кто возьмет на себя ответственность, если машина убьет кого-то, выполняя оптимизацию аварии?
Но не волнуйтесь. Хорошая новость заключается в том, что автономные автомобили будущего, вероятно, будут иметь обязательные или персональные настройки этики. Другими словами, потребители смогут выбирать свои собственные этические предпочтения в отношении своих автомобилей. Более того, это решит проблему ответственности. Ответственность за машину будет возложена на владельца в личных настройках. Предположительно, водители, выбравшие эгоистичный алгоритм этики, будут обвинены больше, чем те, кто придерживается заводских настроек по умолчанию.
Золотого правила автономной автомобильной этики не существует
Пока нет единых этических стандартов и сертификатов для автономных автомобилей. Большое исследование Моральная машина, проведенное Массачусетским технологическим институтом, показало, что трудно выделить универсальные этические ценности. Моральный выбор, сделанный людьми в ходе опроса Массачусетского технологического института, был различным и варьировался даже на местном уровне. Вот почему трудно создать универсальную этику беспилотных автомобилей, которая не вызывала бы споров.
В поисках универсальной автономной автомобильной этики одно исследование показало, что люди поддерживают идею утилитарных автономных автомобилей, то есть транспортных средств, которые призваны спасти как можно больше жизней. Тем не менее, большинство участников хотят, чтобы другие водили автономные автомобили, и не хотят владеть одним самостоятельно. Причина очевидна: спасти как можно больше жизней означает также при необходимости пожертвовать жизнью водителя. И люди хотят чувствовать себя в полной безопасности при езде на беспилотном автомобиле.
В июне 2017 года Министерство транспорта и цифровой инфраструктуры Германии разработало первые в мире этические принципы для автономных транспортных средств. Согласно этим принципам защита человеческой жизни стоит на первом месте. И хотя в руководстве говорится, что решения нельзя стандартизировать, они оправдывают программирование, которое снижает количество травм.
Более того, в правилах говорится, что автомобиль не может различать людей по возрасту, полу, физическому или психическому состоянию. Кроме того, в рекомендациях говорится, что технология автономных транспортных средств должна предотвращать аварии до того, как они произойдут, что означает предварительное исключение всех проблемных ситуаций на дороге, в том числе тех, которые вызывают дилеммы.
Чем раньше будут приняты беспилотные автомобили, тем больше будет спасено жизней. Но если серьезно отнестись к психологическим и технологическим проблемам автономных транспортных средств, то это поможет нам освободиться от утомительной, расточительной и опасной системы вождения, с которой мы мирились более века.
/ Как Рахван, Азим Шариф и Жан-Франсуа Боннефон, исследователи в области этики автономных автомобилей /
Как этические принципы могут превратиться в программные алгоритмы для автономных автомобилей?
Кто-то может задаться вопросом, можно ли закрепить этичное поведение в автономных автомобилях. Это. Чтобы создать алгоритм этического сбоя транспортного средства, разработчики программного обеспечения могут использовать гибридный подход, который сочетает в себе сильные стороны рационального подхода, подхода искусственного интеллекта и естественного языка. Проще говоря, транспортному средству дается набор правил поведения в различных ситуациях или цель, которую он должен достичь.
Альтернативные траектории для беспилотного автомобиля
a. Серьезная авария с одним автомобилем
б. Умеренная авария двух автомобилей
c. Низкая вероятность - сбоев нет; высокая вероятность - серьезная авария двух автомобилей
Например, автомобиль может сначала попытаться спасти детей. В идеале рациональную систему для беспилотных автомобилей должны создать юристы, социологи и философы, а также инженеры-программисты. Проблема в том, что при использовании исключительно рациональной системы автономное транспортное средство далеко не уедет. Он столкнется с проблемой, как только станет свидетелем неожиданной ситуации, которой нет в списке. А поскольку разработчики программного обеспечения не могут учесть каждое дорожно-транспортное происшествие, этика автономных транспортных средств должна быть больше, чем набор строгих правил.
Здесь может помочь искусственный интеллект для автономных транспортных средств. Методы искусственного интеллекта позволяют беспилотным автомобилям выходить за рамки установленных программ. Благодаря методам машинного обучения автомобили смогут принимать правильные решения на дороге даже в неожиданных ситуациях. Системы искусственного интеллекта смогут обучаться на основе смоделированных сценариев аварий и наблюдения за действиями человека.
Системы искусственного интеллекта также могут извлекать уроки из отзывов об их этических ответах. Хотя в настоящее время на рынке присутствует только слабый ИИ, методы машинного обучения успешно применяются в автономных автомобилях. Например, глубокое обучение набирает обороты.
В сочетании с системой, основанной на правилах, методы машинного обучения помогут беспилотным автомобилям выбрать наиболее этичный путь. Кроме того, беспилотные автомобили должны научиться предупреждать водителей о выборе, который они собираются сделать. Автономные автомобили должны уметь объяснять, что они делают, на естественном языке.
Беспилотные автомобили могут сами стать жертвами
Согласно опросу Goodyear, 41% участников заявили, что им было бы неудобно ездить рядом с автономным автомобилем.
Исследования также показали, что люди беспокоятся о том, что автономным транспортным средствам не хватает здравого смысла на дороге. Некоторые люди даже говорят, что воспользуются беспилотными автомобилями и «запугивают» их.
К сожалению, угроза издевательств реальна. Опасаясь возможного агрессивного поведения в отношении беспилотных автомобилей, Volvo объявила, что не будет маркировать свои беспилотные автомобили, чтобы защитить их. Mercedes-Benz также предупредил о хулиганах и думает о том, чтобы сделать беспилотные автомобили более агрессивными.
Но вот проблема: некоторые беспилотные автомобили могут неправильно интерпретировать нападение на них. В отличие от водителей-людей, автономным транспортным средствам обычно не хватает контекста и понимания социальных основ. Поэтому важно подготовить их к различным сложным дорожным ситуациям, а не только к авариям. К счастью, машинная этика позволяет автомобилям проявлять моральное поведение в любой ситуации.
___________________________________________________________________
Современные беспилотные автомобили обладают множеством функций безопасности, обеспечивающих безопасность пассажиров. Но их недостаточно. Транспортное средство необходимо подготовить к различным дорожным ситуациям. Например, он должен знать, как вести себя в случае неизбежной аварии. Другими словами, он должен заботиться об оптимизации сбоев, а не только о предотвращении сбоев. Он также должен уметь действовать даже в непредсказуемых ситуациях, таких как конфликты или издевательства. К счастью, этика автономных транспортных средств может справиться со всеми этими случаями. Этика помогает беспилотным транспортным средствам разумно вести себя на дороге.
___________________________________________________________________
Несомненно, каждому автономному транспортному средству нужен урок этики.
Свяжитесь с нами, если вы хотите, чтобы наши эксперты по искусственному интеллекту и машинному обучению создали этическую систему для вашего беспилотного автомобиля.
Первоначально опубликовано на www.intellias.com 2 августа 2018 г.
