Ядерная энергия — это самая эффективная, безопасная и чистая форма энергии. За шестьдесят лет существования около 4000 человек косвенно умерли из-за него, по сравнению с примерно 7500 прямыми смертями каждый год из-за твердых частиц угля. Их смерть была очень заметна и произошла в Чернобыле, который стал непригодным для жизни в результате ядерной катастрофы. Но более поздние катастрофы, такие как Три-Майл-Айленд, произвели мало радиации, потому что защита промышленности гарантирует, что ядерная энергетика безопасна, имеет много резервных систем и что еще один Чернобыль никогда не повторится.

Несмотря на научный консенсус, общественность в целом по-прежнему скептически относится к ядерной энергии. Люди, вероятно, думают о Гомере Симпсоне, устроившем расплавление, или о взрыве атомной бомбы, когда думают о ядерной энергии. Они не понимают, почему Чернобыль провалился и почему подобный инцидент вряд ли произойдет. Люди думают, что безопасная технология опасна из-за одного-единственного инцидента, получившего широкую огласку.

Появление беспилотных автомобилей обещает стать крупнейшим технологическим достижением со времен Всемирной паутины. Ряд отраслей промышленности пойдут по пути лошади и повозки, как только они начнут активно использоваться. Дальнобойщики? Неа. Услуги парковщика? Ваша машина найдет место. Юристы по вождению в нетрезвом виде? Нельзя водить машину пьяным. Беспилотные автомобили произведут революцию в образе жизни, дорожном движении и безопасности для миллионов людей.

Большинство технически мыслящих людей знают о преимуществах беспилотных автомобилей. Но, как и ядерная энергетика на ее ранних стадиях, беспилотные автомобили предлагают огромный потенциал с мало доказанной безопасностью. Конечно, они предотвратят множество смертей в автокатастрофах. Но все, что нужно, это один очень заметный инцидент с безумием СМИ, чтобы помешать им когда-либо быть усыновленными.

Представьте себе: мужчина едет на работу на беспилотном автомобиле. Автомобиль врезался в фермерский рынок, в результате чего погибли водитель и 30 прохожих. Это Бриджит Дрисколл среди беспилотных автомобилей. Фотографии ужасной сцены каждый день в течение месяца показывают на CNN. Представители производителя автомобиля ошеломлены и бесполезны. Родственники погибших требуют объяснений.

Вскрытие аварии с беспилотным автомобилем будет очень сложным. Подобно AlphaGo, которая обыграла чемпионов мира по го, используя стратегию, которую можно охарактеризовать как инопланетную, беспилотные автомобили будут совершать ошибки, которые не имеют большого смысла для человека. Человеческие ошибки имеют легкое объяснение. Водитель был пьян и спровоцировал аварию. У водителя случился сердечный приступ, и он въехал в пункт взимания платы. Второклассник может понять, почему происходит типичная автомобильная авария.

Беспилотные автомобили будут совершать ошибки, непонятные людям, потому что водителями являются алгоритмы, а не люди. Сможет ли эксперт пойти на CNN и убедительно сказать кучке говорящих голов, что 30 человек погибли из-за того, что 15-й слой рекуррентной нейронной сети имеет функцию ReLU, которая отправляет 0 вместо целого числа на следующий слой? Нет. Никакие объяснения не окажут на зрителей такого же воздействия, как мертвые люди и интервью с скорбящими семьями. Это будет еще хуже для беспилотных автомобилей, если местные органы власти ответят запретом на них из соображений безопасности.

Самым важным препятствием для широкого распространения беспилотных автомобилей является доверие. Как и в случае с ядерной энергетикой, беспилотные автомобили будут навсегда заклеймены, если произойдет хотя бы один ужасный инцидент, получивший широкую огласку. Люди чувствуют контроль, когда они водят машину. Им кажется, что они всегда могут отреагировать на то, что делают другие водители. Самоуправляемые автомобили обязательно откажутся от этой формы контроля, что приведет к некоторым авариям, которые можно было бы предотвратить, если бы за рулем находился человек. Неудивительно, что 56% опрошенных в опросе PEW 2017 года заявили, что не хотели бы ездить на беспилотном автомобиле, а 72% из них заявили, что их рассуждения вызваны соображениями безопасности и недоверием. Для разработки технологии беспилотных автомобилей требуются сотни специалистов по машинному обучению, компьютерному зрению и робототехнике. Однако именно доверие, а не технологии, станет главным фактором того, станут ли они жемчужиной автоматизированной Второй промышленной революции или пойдут по пути Google Glass.

Поскольку доверие является основным фактором внедрения беспилотных автомобилей, компании должны быть одержимы безопасностью. В начале 2017 года самоуправляемые автомобили Uber требовали, чтобы человек-водитель брал на себя управление примерно раз в 0,8 мили. Это допустимо, когда в машине находится человек-водитель, но это явно противоречит цели самостоятельного вождения автомобиля. И даже если большинство беспилотных автомобилей ездят идеально, крупные инциденты все равно случаются. 2017 год был самым безопасным годом для пассажиров коммерческих авиалиний, но 13 человек все же погибли в авиакатастрофах. Люди в основном знают, что самолеты безопасны, потому что они представляют собой устоявшуюся технологию с доказанной безопасностью за более чем 100 лет существования. Один инцидент на фермерском рынке, связанный с ранним внедрением беспилотных автомобилей, приведет к недоверию общественности и концу самой многообещающей технологии 21-го века.

Этика искусственного интеллекта — это не просто философская проблема. Они имеют смысл для бизнеса. Неспособность решить проблемы безопасности может разрушить годы и миллионы долларов исследований. И есть много организаций, которые хотели бы, чтобы беспилотные автомобили потерпели неудачу. Производитель автомобилей без программы самостоятельного вождения? Юридическая фирма в нетрезвом виде? Водители, которые также упоминают о проблемах безопасности? Маленькие города, поддерживаемые дальнобойщиками? Тысячи людей потеряют средства к существованию, если беспилотные автомобили станут повсеместными. У этих людей есть все основания продвигать идею о том, что они не в безопасности. Средства массовой информации, которые любят ужасные истории, немедленно набрасываются на эти инциденты. Если бы у Эдисона были сегодняшние СМИ, чтобы продвигать идею о том, что переменный ток опасен, мы бы жили в другом мире.

Поскольку аварии с беспилотными автомобилями неизбежно случаются, что могут сделать компании, чтобы завоевать доверие к беспилотным автомобилям?

  • Как только беспилотный автомобиль достигнет проверенного уровня безопасности, пусть он совершит путешествие по пересеченной местности полностью самостоятельно, прежде чем выпустить его для публики. Опубликуйте поездку. Поставьте веб-камеру на переднее сиденье, чтобы люди могли ее смотреть. Сделайте блог с точки зрения автомобиля, подробно описывающего, где он находится. Заинтересуйте людей беспилотными автомобилями. Как только они увидят, насколько безопасна технология, они неизбежно станут ей доверять. Донесите до людей, что беспилотные автомобили больше похожи на жука-любовника Херби, чем на Кристину.
  • Не будь мудаком. Не только в развитии технологий, но и во всех аспектах поведения вашей компании. Питтсбургу надоело поведение Uber в своем городе. Если люди обижаются на компанию, они в конечном итоге будут обижаться на продукты этой компании, какими бы революционными они ни были. Люди доверяют компаниям, которые ведут себя этично. Особенно это будет иметь место, когда компания производит двухтонные металлические ящики, способные убивать людей.
  • Не спешите побеждать конкурентов. Лучше подождать десятилетия, чтобы выпустить машину с рейтингом безопасности 99,9999%, чем подождать пять лет и выпустить машину, убившую несколько тысяч человек. Конечно, несколько тысяч смертей лучше, чем десятки тысяч смертей в управляемых людьми транспортных средствах, но люди не мыслят утилитарно, когда их собственная жизнь находится в опасности и не имеют над ней контроля. Инцидент на фермерском рынке гарантирует, что общественность сосредоточится на опасностях беспилотных автомобилей, а не на их безопасности и улучшении образа жизни.
  • Принесите как можно больше извинений после инцидента. Предоставить пособие в связи с потерей кормильца семьям людей, погибших в автокатастрофах. Направьте представителей в каждое новостное агентство и подчеркните приверженность компании безопасности и то, как вы сожалеете, что произошел такой инцидент. Сообщите о том, что вы проверяете инцидент, потому что никто не должен потерять своего ребенка в беспилотном автомобиле. Аудиты и платежи могут стоить компаниям миллионы долларов краткосрочного дохода. Однако это ничтожно мало по сравнению с финансовыми потерями, которые они понесут, если никто не будет доверять беспилотным автомобилям. Boeing и Airbus прекрасно это понимают.
  • Создайте отдельную команду, которая будет выступать в роли Института RAND по авариям с самоуправляемыми автомобилями. Наймите поведенческих психологов, чтобы они объяснили, почему беспилотные автомобили разбиваются. Хотя исследователи потратили тысячи часов на разработку новых алгоритмов глубокого обучения, они потратили значительно меньше времени на объяснение того, когда и почему эти алгоритмы допускают ошибки. Если вы Uber или Google, вы не можете пожать плечами и сказать «не знаю», если ваша машина врезается в фермерский рынок и убивает 30 человек.
  • Компании должны будут дать исчерпывающее, нетехническое объяснение аварии. Такие техники, как LIME, — хороший первый шаг. Как и нейросетевые визуализации. Но широкая публика не знает, что такое нейронная сеть или функция активации. Антропоморфизируйте машину. Машина подумала, что фермерский рынок — это парковка, потому что кто-то был в рубашке, что сбило с толку одну из камер. Конечно, машина на самом деле не думает и не знает, что такое парковка, но объяснение имеет больше смысла для широкой публики, чем более точное, но техническое. Людям нравятся антропоморфные объяснения. Вот почему греческие боги, вымышленные роботы и вымышленные инопланетяне обычно ведут себя как люди.

Беспилотные автомобили произведут революцию в транспорте и безопасности вождения, если они станут повсеместными. Но этого не может произойти, если люди в подавляющем большинстве не доверяют им. Чтобы это произошло, технологические компании должны действовать этично. В противном случае они пойдут по пути атомной энергетики и всех прочих технологических дронтов.