Что, если моя машина кого-нибудь убьет?

Эссе с точки зрения пользователя

Итак, я представляю себя, едущую на работу, сидящую в передней части своего беспилотного автомобиля. Я просматриваю свою электронную почту… или вздремну, используя поездку на работу, чтобы наверстать упущенное прошлой ночью.

Внезапно громкий стук… машина резко останавливается. Я оглядываюсь, ошеломленный и растерянный. Кто-то лежит на обочине и не шевелится… можете себе представить, что произошло…

Прибытие властей

После прибытия полиции они первым делом проверяют программное обеспечение моей машины. Он современный, безукоризненно поддерживается производителем за тысячу миль. Аппаратное обеспечение, то есть сама машина, тоже в порядке. Я в обязательном порядке возил машину (точнее, она меня) на регулярные техосмотры. Мы их никогда не пропускали…

Ну, я пропустил один. Я был занят и просто приказал машине ехать на техосмотр без меня. Он ушел и вернулся через несколько часов. Когда я сел на следующее утро, при включении машины меня приветствовало сообщение на экране. Он сообщил мне, что во время проверки все прошло хорошо, и моя машина сообщит мне, когда должна быть следующая проверка.

Черт, в подстаканнике даже было немного шоколадного пралине с благодарственной запиской от айтишников. Стандартная процедура, по-видимому… почему, черт возьми, нет?

Полиция говорит, что я никоим образом не несу ответственности за аварию. «Черный ящик» автомобиля четко указывает на то, что я не брал на себя ручное управление ни до, ни во время рокового события.

Я свободен от какой-либо ответственности. Полицейские следят, чтобы я знал это.

Плохая новость: им все равно придется забрать машину. Но я могу вернуться домой, без проблем. Они свяжутся со мной по поводу получения автомобиля. Никаких дополнительных объяснений от меня им тоже не требуется. Если говорить о машине и мне, то именно она с большей вероятностью предоставит данные, необходимые для понимания того, что произошло и почему. Я… в этом отношении я совершенно бесполезен. К тому времени, когда я даже понял, что произошла авария, все уже было сказано и сделано.

Сейчас я так же беспомощен, как был беспомощен, когда это случилось!

Когда я отхожу, чтобы вызвать Uber (кстати, это еще один беспилотный автомобиль… и я чувствую себя гораздо менее комфортно, глядя на пустое водительское сиденье, чем раньше), я смотрю на мешок для трупов, застегнутый на молнию и готовый к транспортировке. .

Черт... моя машина только что кого-то убила!

Нет (юридической) ответственности…

История, которую я только что рассказал, явно воображаемая. Однако будущее, в котором может произойти подобная история, не за горами.

Есть веские основания полагать, что беспилотные автомобили будут безопаснее, по крайней мере, в долгосрочной перспективе. Но они не будут идеальными. Никакой технологии никогда не бывает. Даже если несчастные случаи менее вероятны, даже значительно, шансы никогда не будут нулевыми.

Так что аварии будут. Некоторые из них произойдут из-за механических неисправностей. Затем может быть установлено, что виновной стороной является либо производитель (если ошибка связана с конструкцией или производством), либо пользователь/владелец (если неисправность возникает из-за пренебрежения, например, регулярными проверками, обновлениями программного обеспечения и обслуживанием оборудования). .

Но что происходит, когда машина исправно работала, а авария все равно случается?

Я свободен от какой-либо ответственности. Полицейские удостоверяются, что я знаю это.

Я, пользователь автомобиля, скорее всего, не буду нести ответственность. Если бы мой самоуправляемый автомобиль потенциально мог стать причиной аварии со смертельным исходом, и хотя я даже не смог бы вмешаться, я все равно должен был бы понести наказание, например, в виде лишения свободы, ни я, ни, вероятно, многие другие люди, никогда не рискнет использовать автономные транспортные средства.

Может существовать какая-то форма обязательного страхования, которую должны будут платить пользователи беспилотных автомобилей. Затем эта страховка будет использоваться для выплаты компенсации пострадавшему в результате несчастного случая или его семье. Вероятно, это касается ответственности пользователя.

И все же, не будет ли странным просто уйти с места происшествия, как я описал выше в фантазии, зная, что моя машина только что кого-то убила?

… А как насчет моральной ответственности и вины?

В конечном счете, это зависит от нас самих. Некоторые из нас, вероятно, рационализируют чувство вины и сбрасывают со счетов любую ответственность. В конце концов, они не вызвали аварию. По крайней мере, не напрямую, поскольку они, возможно, вызвали это косвенно, поскольку решили использовать автономный автомобиль вместо того, чтобы выбрать другой вид транспорта (обычный автомобиль, общественный транспорт и т. д.).

Тем не менее, я считаю, что для большинства людей нахождение в такой ситуации будет, по крайней мере, очень неприятным. И многие также столкнутся с тяжелым бременем вины.

Вероятно, будут и те, кто, подобно Раскольникову в Преступлении и наказании Достоевского, будут чувствовать, что должны быть наказанными.

Ясно, что есть много причин, по которым эти люди не должны чувствовать себя ответственными так же, как это делал Раскольников: на самом деле они никого не убивали. Они не совершали убийства. И все же быть свидетелем чьей-то смерти зачастую вызывает очень сильный эмоциональный отклик. Тем более, когда кажется, что между смертью и нашими действиями есть какая-то связь. Даже если это действие было таким же невинным (и приземленным), как поездка на машине на работу.

Однако, поскольку беспилотные автомобили исключают пользователя из причинно-следственной цепочки событий в той мере, в какой он не является водителем, как в случае с обычными автомобилями, может возникнуть своего рода когнитивный диссонанс.

Человек может по-прежнему чувствовать себя виноватым, даже морально ответственным за то, что в той или иной степени был причастен к чьей-то смерти. Не быть наказанным или, по крайней мере, выговором может просто показаться неприятным.

И все это НИЧТО по сравнению с эмоциями, которые неизбежно охватят жертву аварии или ее семью. Но это тема для другой статьи!

ЗАКЛЮЧЕНИЕ

Автономные транспортные средства, как и любая потенциально революционная технология, принесут много изменений в наш мир, наше общество, наши системы правосудия и права. Алгоритмы машинного обучения, которые автомобили будут использовать, чтобы научиться (безопасно) водить машину, не всегда будут идеальными. Так что аварии будут. Как я уже говорил в этой и этой статье, эти алгоритмы машинного обучения также, возможно, создадут пробелы в ответственности.

Юридически пользователь не может быть подходящим объектом обвинения или наказания. На самом деле, было бы несправедливо даже пытаться наказать их. И тем не менее, как для жертвы/семьи жертвы, так и для пользователя беспилотного автомобиля тот факт, что, казалось бы, никто не берет на себя ответственность и не несет наказания за трагедию, может привести к пагубному чувству вины, несправедливости, гнева… порождают обиду, ненависть и даже подталкивают людей к бдительности.

Источники и дополнительная литература:

Данахер Дж. Роботы, закон и разрыв в возмездии. Ethics Inf Technol 18, 299–309 (2016). https://doi.org/10.1007/s10676-016-9403-3

Хевельке А., Нида-Рюмелин Дж. Ответственность за аварии автономных транспортных средств: этический анализ. Sci Eng Ethics 21, 619–630 (2015). https://doi.org/10.1007/s11948-014-9565-5