Заголовки завтрашнего дня
Марш роботов на Вашингтон, требуя своих гражданских прав
Террористы-аватары бомбят виртуальный курортный городок
Нобелевская премия по литературе присуждена Deep-Bluedora от IBM
Обвинения в геноциде выдвинуты против FARL (Fuerzas Armadas Roboticas de
Liberacion)
Наноботы восстанавливают перфорированное сердце
ВТБ (виртуальный транзакционный бот) накапливает личное состояние на валютном
рынке
ООН обсуждает запрет самовоспроизводящегося ИИ
Серийный преследователь нацелился на секс-роботов
–Машина морали, глава 12
Введение
Должны ли беспилотные автомобили ценить вашу жизнь выше пешеходов? Должна ли ваша активность в Fitbit использоваться против вас в судебном процессе? Могут ли дроны стать новыми папарацци? Можно ли запатентовать человеческий ген? Ученые борются с такими дилеммами, и это даже заставило уходящего президента Обаму задуматься. Когда мы вступаем в новую эру машин, нам нужен новый набор систематизированных нравов, которые станут глобальной нормой. Время подходит для того, чтобы поставить этику в то же меню, что и разрушение.
В прошлом месяце Карнеги-Меллон объявил о создании нового центра изучения Этики искусственного интеллекта — компьютерных систем, которые со временем станут умнее человека. В Белом доме же провели серию дискуссий, завершившихся докладом для более широкого общественного обсуждения. Это еще не все, ведущие технологические чемпионы (читай Google, Facebook и др.) также объявили о партнерстве, чтобы разработать этическую основу для ИИ. Стивен Хокинг, Илон Маск и другие в январе 2015 года подписали открытое письмо с призывом изучить социальное влияние ИИ. Маск и его коллеги сделали ставку на 1 миллиард долларов на аналитический центр под названием OpenAI.
4-я промышленная революция
Громкие имена и великие идеалы. Большинство усилий разрознены и не имеют подписи Pan National. Более того, 4-я промышленная революция выходит за рамки Интернета и ИИ. Клаус Шваб, основатель Всемирного экономического форума, считает, что этот этап будет построен вокруг «киберфизических систем» с размытием физического, цифрового и биологического. Когда риск, связанный с инновациями, снижается, на нас обрушивается магия в виде дронов, 3D-принтеров, беспилотных автомобилей и программной биологии. Однако новые вещи несут с собой непростые вопросы морали и этики. По мере того, как мы вступаем в век машин, возникает острая необходимость в формировании новой этической парадигмы, которая будет управлять нашим социальным и экономическим порядком.
Люди будут вынуждены думать о новых этических сценариях, для которых потребуются ответы и будут приняты законы. В некоторых случаях может потребоваться перезагрузка всего морального кодекса. Такова природа технологических прорывов. Мы верим, что вскоре человечество окажется на пороге переосмысления морали — этики 2.0.
Истоки этики
Этика религии или философии нелегко вписывается в мир технологий. От Аристотеля до Десяти Заповедей дают нам моральную навигацию, но не так просто установить набор правил, прежде чем в конечном итоге столкнуться с дилеммами. В мире науки тоже есть свои попытки — от Трех законов Азимова для роботов до Работы Ника Бострома по этике. Тем не менее, людям достаточно трудно развить в себе достоинства для собственного поведения, не говоря уже о создании соответствующих достоинств для новых технологий.
Случаи использования
Этические последствия варьируются от немедленных (Могут ли Google или FB влиять на эмоции или политический процесс с помощью массивов данных?) до будущих (возможное о, дерьмо влияние самоуправляемых транспортных средств на водителей грузовиков). Ниже приводится пример этических решений, с которыми нам предстоит столкнуться (ни в коем случае не исчерпывающий):
– Должно ли редактирование генов быть законным для манипулирования человеческой расой и создания дизайнерских младенцев?
– Должна ли местная полиция использовать программное обеспечение для распознавания лиц? Должна ли предиктивная полиция быть законной?
– Учитывая ее растущую распространенность, как мы можем добиться справедливости в разработке алгоритмов? Что, если Алгоритм в конце концов решит ваше продвижение по службе, поступление в колледж и женится ли ваш партнер на вас? Что, если шифрование с использованием ИИ заблокирует нас от систем?
– Должны ли нанотехнологии и регенеративная медицина, которая продлевает жизнь или обманывает смерть, быть законными?
– Что, если бы Kindle оснастили программным обеспечением для распознавания лиц и биометрические датчики, он будет знать, как каждое предложение влияет на ваш сердечный ритм и кровяное давление.?
– Как мы решаем, что могут решить беспилотные автомобили? Как мы решаем, что могут решать роботы? Должны ли мы контролировать темпы внедрения роботов, чтобы полностью не уничтожить рабочие места без надлежащего перехода?
– Этично ли создавать роботов с эмоциями? Будет ли нужен робот, эквивалентный Биллю о правах? Кто ответит за действия военного робота? А как насчет прав людей вступать в брак с роботами и прав роботов владеть собственностью.
– Следует ли разрешить высокоразвитому кибогу баллотироваться на политические должности?
– Приведет ли вливание молодой крови для обращения вспять старения к крови торговля молодыми людьми?
– Каковы долгосрочные воздействия генетически модифицированных продуктов питания?
– Должны ли приложения и игры, вызывающие привыкание (и, как известно, выделяющие дофамин), быть законными?
Рекомендации
Как правило, в прошлом свободный рынок решал судьбу новых инноваций, и со временем местные органы власти вмешивались и вмешивались (Uber запрещен в Японии и действует в Индии). Однако в данном случае такой подход был бы губителен и привел бы к несопоставимым результатам.
Мы не выступаем за то, чтобы правительство мешало инновациям, мы призываем к согласованному глобальному диалогу по вопросам этики в 21 веке, чему способствуют технологические разработки. Диалог должен выходить за рамки академических журналов и статей и находить отражение в комитетах правительств и международных организациях, таких как ООН. Это больше, чем взлом электронной почты, это должно быть частью президентских дебатов.
До сих пор мы использовали разрозненный подход — от запрета на клонирование человека во всем мире до частичных ограничений на ГМ-продукты. Различные регионы также придерживаются разных взглядов и не могут организовать единый ответ — подход ЕС к управлению социальным воздействием новых технологий заметно отличается от подхода США. С другой стороны, Китай всегда придерживался долгосрочной перспективы. Технологии подобны воде — они найдут свои просторы — поэтому во взаимосвязанном мире локальные решения эффективны только в том случае, если они поддерживаются международным консенсусом.
Существует потребность в структурированном международном форуме — возможно, в рамках ООН в рамках КОМЕСТ или в новом глобальном комитете по этике, специально предназначенном для решения технологических вопросов. Такой форум мог бы согласовать и зафиксировать повестку дня новых технологий, оценить каждую технологию и опубликовать проект кодекса поведения.
Например, международный правительственный орган может установить определенные правила, например, сделать обязательным раскрытие правил/логики определенных алгоритмов ИИ.
В мире науки есть несколько успешных примеров международного сотрудничества. На ум приходят Монреальский протокол 1987 года (для решения проблемы истощения озонового слоя) и Асиломарская конференция 1975 года (для регулирования технологии ДНК).
Заключение
Человечеству будут заданы вопросы, на которые оно еще не ответило. Нам нужно начать разговор сейчас.
Если мы не подготовимся заранее, мы столкнемся с несколькими рисками. Мы рискуем потерять огромную мощь машин. Мы рискуем изменить курс человечества, не полностью понимая последствия. Мы рискуем создать массовое неравенство между техно-сверхбогатыми и многочисленным бесполезным классом
Любой, кто видел хотя бы один эпизод отмеченного наградами телесериала Черное зеркало, должен беспокоиться о мрачном будущем, которое может ждать нас впереди — если мы не решим сейчас сложные философские и юридические вопросы.
Это не первая технологическая революция. Опасения не новы. Они существуют уже более 200 лет со времен промышленной революции. Но, как выразился историк-философ Юваль Харари, дело в том, что мальчик (который кричал «волк») в конечном итоге оказался прав.
Традиционно технологический прогресс опережает политический процесс — мы уже пропустили разработку моральной хартии для интернета (и продолжаем играть в догонялки по сей день) — мы не можем позволить себе оставаться вслепую перед следующими рубежами — будь то биотехнологии или ИИ. Наше будущее и будущее наших детей все больше и больше проектируется Инженерами и группой Предпринимателей — такая группа не всегда понимает социальное или политическое влияние своего творения — и они не подотчетны какой-либо большой группе граждан — в этом и заключается опасность .
Промышленная революция породила новый набор морали и нарративов — пришло время нового набора для грядущей технологической бури.
Общество хорошо приспосабливается к изменениям — от Steam-engine до Iphone и заметно увеличенной продолжительности жизни. Однако нам необходимо оставаться в стороне от кумулятивного деструктивного (общественного) воздействия передовых технологий.
Как выразился Билл Гейтс, технологии аморальны. Нам решать, как его использовать и где провести черту.
*Примечание — для читателей с академическим складом ума ниже представлена богатая библиотека материалов — https://www.routledge.com/The-Library-of-Essays-on-the-Ethics- of-Emerging-Technologies/серия книг/АШСЭР-1404
