Моральная машина Массачусетского технологического института продемонстрировала огромную потребность в этической надежности при разработке технологий. От холодильников, которые интегрируются в нашу повседневную жизнь, до автономных автомобилей - чем больше мы интегрируем технологии в нашу повседневную жизнь в качестве эмоциональной поддержки или социального устройства, тем больше мы должны заботиться о правилах и стандартах взаимодействия машин.

Требуемая этика сложна и требует ответственных действий. В частности, этические нормы, необходимые для машин, различаются. Но чем больше и глубже мы интегрируем машины в общество, тем сложнее они становятся. Закон Азимова - это только начало мысли о машинной этике. Машинной этике нужна основа безопасности, доверия и знаний.

Ниже приведены распространенные заблуждения о развитии технологий и причина, по которой мы не можем разделить машины и этику.

Мы ожидаем слишком многого слишком быстро

Среднестатистический человек проводит с этими родителями детство, в лучшем случае 18 лет, прежде чем превратиться в ответственного человека общества. Теперь, когда на рынок поступают все новые машины и устройства, помогающие нам улучшить нашу социальную жизнь, мы ожидаем, что они автоматически будут вести себя должным образом уже на первом этапе разработки продукта. Другими словами, мы ожидаем, что машины адаптируются к человеческим законам в течение одного или двух лет, что люди узнают в 18 лет.

Нам необходимо доказать надежность, прежде чем технология будет адаптирована широкой аудиторией

Начнем с одной из основных машин, которые у нас есть сегодня - кофеварки. Мы можем (при желании) предложить новую модель, новый вид зерен или порошка и совершенно новый вкус. В худшем случае неисправны различные аккумуляторы. Клиенты потребуют, чтобы мы их обменяли, и для оплаты может потребоваться огромный штраф.

Тем не менее, нынешние технологические стартапы не заинтересованы в производстве обычных кофемашин. Технологические изобретения в наши дни делают гораздо больше, они помогают людям общаться друг с другом, они адаптируются к вашему личному стилю, они координируют вашу повседневную жизнь…. другими словами, они делают тебя умным ...

Подумай об этом. Вы отдаете свою жизнь в руки технологий, которые разрабатывались в лучшем случае несколько лет, в то время как вы на Земле пытались найти идеальную жизнь в течение 20 и более лет.

То, что происходит прямо сейчас, когда развитие технологий идет по экспоненте, заключается в том, что разрабатываемые устройства гораздо более футуристичны. Например, автономные автомобили - одна из основных областей интересов. Иметь автомобили, которые ответственно действуют на улице, уменьшают количество ежегодных аварий и в то же время интегрируются в повседневную жизнь. Да, мы ожидаем, что они будут в безопасности. И да, мы ожидаем, что они помогут нам и внесут большой вклад в повседневную жизнь.

Но как это доказать? Неужели мы можем просто выпустить автономные автомобили в нормальное движение и надеяться на лучшее, потому что у нас есть команда отличных инженеров-программистов, которые никогда не ошибаются?

А теперь представьте, что дизайн нашего будущего продукта - это кофейня внутри автономного автомобиля, то есть автономная кофейня. Мы могли ориентироваться на нужных клиентов в нужное время, рассчитывая оптимальные маршруты проезда машины, проезжая мимо университетов, офисных комплексов и вокзалов.

Этот продукт - отличная идея, нам больше не нужны сотрудники, в машине можно продавать кофе в удобное время, что за удобство. Но увеличивается не только список достоинств, но и список недостатков. От дорожно-транспортных происшествий до проливания кофе на клиентов, отказа от продажи кофе и взрывающейся машины (в худшем случае - посреди оживленной дороги).

Достоинства и недостатки - пара.

Чем больше мы ожидаем от технологии разрушительного воздействия, тем больше нам нужно скрывать возможные негативные стороны. Технологии будущего будут положительными, отрицательными или промежуточным в зависимости от того, как мы решим ограничить их, как мы формируем будущее и как мы справляемся с ошибками.

Я прошу… этичной отладки «социальных машин»

Доказательство того, что ваш продукт поступает правильно, прежде чем вывести его на рынок. Смоделируйте свой продукт в разных средах. Но этим вопросом не следует заниматься на уровне компании / стартапа, а должно контролироваться самим обществом. Особенно крупные компании, у которых есть средства для финансирования глубоких исследований, не только несут ответственность за создание новых технологий, но и доказывают, что эта технология пригодна для различных ситуаций в обществе.

Мы должны доказать, что машины, интегрированные в социальную жизнь, заслуживают доверия, что эти машины соответствуют этическим стандартам.

Люди заслуживают доверия после того, как прошли детство и стали взрослыми. Нам нужно уточнить, что такое «взрослая машина», то есть машина, достойная доверия. В следующих статьях этой серии будет обсуждаться доверие будущих машин и разработчиков, стоящих за ними.