Этика в области технологий, особенно роботов, андроидов и искусственного интеллекта, обсуждается уже давно. Самым известным затруднительным положением, вероятно, являются три закона робототехники Айзека Азимова или 10 японских принципов закона о роботах. Однако, когда искусственный интеллект становится частью нашей повседневной жизни (как сейчас), кажется, что обсуждение их этических решений важнее, чем раньше.

Я не говорю о разумных машинах, машинах с интенциональностью (Джон Сирл разработал для этого интересные определения) и прочих снах. Сегодня дискуссия об этике искусственного интеллекта гораздо более реалистична и конкретна. И я считаю, что более широкое обсуждение этики, вероятно, станет одним из столпов новой философии технологии.

В этом посте мы можем остановиться только на одном примере, который достаточно сложен, чтобы мы могли начать оценку требований этического кодекса для машин, которые мы используем сегодня. Пример, который я хотел бы привести, касается технологии беспилотных автомобилей.

Беспилотные автомобили предназначены для работы в сетевом режиме, и в идеале каждое транспортное средство должно иметь чип GPS, который сообщает их местоположение в виде общедоступных данных. Это означает, что компьютеры могут знать, когда две машины находятся на пути столкновения (так же, как сегодня управляется воздушное пространство). Это означает, что большинство аварий можно было бы предотвратить, поскольку автомобили можно было бы выключить или изменить маршрут задолго до того, как они столкнутся. Но что произойдет, если столкновение неизбежно?

Дилемма беспилотного автомобиля

Предположим, что по ошибке два самоуправляемых автомобиля едут по мосту в одном направлении (и, следовательно, к столкновению). Они находятся на пути столкновения, и, ради аргумента, это неизбежно: одну из машин нужно будет снять с моста объединенными в сеть машинами, управляющими автомобилями. Чтобы установить дилемму, будет понятнее, если мы профилируем, кто находится в каждой машине.

В автомобиле A, Mercedes-Benz 2017 года, у вас семья из четырех человек: пара (44M и 42F) и двое детей (10M и 8F). В автомобиле B, Lada 1982 года, пара (45M и 41F) и двое детей (9M и 9F).

По какой-то причине, предположим, у машин есть только один вариант — сбросить одну из машин с моста (если, конечно, они не допустят аварии машин, что означало бы наихудший вариант развития событий).

Это, конечно, знакомый сценарий из теории игр, игра в цыплят (где две машины, едущие с противоположных сторон, должны напугать другую, чтобы та отвернулась). За исключением того, что в нынешнем сценарии с беспилотными автомобилями решение принимается не интуицией водителя (или готовностью все потерять), а запрограммированным логическим обоснованием, созданным компьютером.

Как это ни парадоксально, машинный расчет кажется куда более справедливым и справедливым, чем случайность или нутро какого-нибудь лихача. Но нам, людям, по крайней мере на данный момент, трудно признать, что жизнь или смерть определяются расчетом, а не слепым случаем. Это может быть еще один парадокс технологий.

При этом возникает сложность, и у нас остается куча сложных вопросов, на которые в какой-то момент нам (или машинам) необходимо будет ответить. Я здесь ставлю четыре из них.

Как компьютер может оценить ценность человеческой жизни?

Это не совсем риторический вопрос. Это не вопрос «давайте оставим это людям», потому что это не вариант. В IoT принятие решений машинами становится повседневной практикой, и их алгоритму может потребоваться все более сложная оценка, такая как та, что описана в примере.

Если компьютер может получить доступ к демографическим данным, может ли это помочь?

Это может быть вопрос, который включает в себя множество других вопросов. Мы можем подумать, что разумно, что компьютер получает доступ к полу и возрасту пассажиров в машинах и устанавливает правило, которое спасет, кто моложе. Почему?

С точки зрения эволюции у молодых людей было меньше времени для размножения, чем у пожилых. Это также соответствует здравому смыслу. Здравый смысл также долгое время придерживался идеи «женщины и дети прежде всего». Имеет ли это смысл? С эволюционной точки зрения, да. Потому что человеческая яйцеклетка (вырабатываемая женщинами ежемесячно) является более дорогостоящей клеткой, чем сперма (в изобилии вырабатываемая мужчинами). Нам нужен только один мужчина, чтобы почти одновременно породить несколько человеческих существ в разных женщинах, но нам нужно несколько женщин, чтобы произвести одно и то же число.

Демография (наряду с генетикой) была легкой частью.

Должен ли компьютер принимать во внимание поведение?

Хотя до сих пор гипотетические расчеты с помощью компьютера основывались на примитивных генетических расчетах, вопрос может быть поглощен другими слоями информации.

Например, если пара «Мерседес-Бенц» — законопослушные и честные граждане своего сообщества, а пара «Лада» — безработные алкоголики, должно ли это влиять на решение о том, какая машина выйдет из строя? Должны ли компьютеры учитывать поведение (или проступки) при спасении жизни?

А как насчет цели и вклада?

Как только мы передаем идею примерного поведения, мы можем выйти на поле мирового вклада, принятого во внимание для оценки. Мне часто нравится делать то, что я называю контрастными тестами в теоретических дилеммах. В этом случае мы можем спросить: если одну машину вел Эйнштейн, а другую — Канье Уэст, какую из них оставить на дороге?

Дело не в том, кто ездит на более дорогой машине. Речь идет о том, кто вносит более ценный вклад в общество. Можно ли количественно определить, какой вклад более ценен? Отражается ли это напрямую в том, как каждый вклад финансово вознаграждается? Если это так, то, скорее всего, собственный капитал Канье Уэста будет выше, чем у гипотетического, все еще живущего с нами Эйнштейна (даже после банкротства Канье).

Конечно, мы не любим Канье Уэста, Дональда Трампа или других неприятных знаменитостей, особенно по сравнению с Эйнштейном. Но что, если в машине А Альберт, а в машине Б — простодушная, кроткая и милая деревенская семья? Хотя их дети до сих пор не дали потомства, более вероятно, что Эйнштейн дал бы обществу гораздо больше, чем сочные урожаи органического салата, которые одна семья может производить в течение поколения.

В конечном счете, ответ на этот вопрос лежит в основе философии технологии: чего именно машины помогают людям достичь?

Я научный сотрудник с докторской степенью из Хельсинки, работаю в крупнейшей коммуникационной группе в Скандинавии, Nordic Morning. Я работаю специалистом по защите прав потребителей и изучаю философию технологий в своем блоге.

.