Джейсон Поттс, Элли Ренни, Джулиан Томас

Университет RMIT

Автоматизация второй волны обещает изменить не только экономику, но и общество. Мы рассматриваем, как может разворачиваться эта социальная динамика, и связанные с этим риски.

Вторая волна автоматизации

Первая волна автоматизации началась во времена жаккардового ткацкого станка в 1804 году и продолжается до наших дней. Сюда входят тракторы, заменяющие тягловые лошади, гидравлические приводы, управляемые оператором, заменяющие лопаты и оси кирки на стройплощадках, электродвигатели, заменяющие топчущую ногу или кривую руку. Промышленные роботы, управляющие производственными линиями Toyota и перевозящие товары по складам Amazon, также являются частью первой волны автоматизации, которая использует машины для увеличения или замены труда человека или животного, или то, что экономисты называют замещением труда капиталом.

Автоматизация - это применение технологий. Историк технологий Брайан Артур [1] определяет технологию как использование природных явлений (то есть открытий науки) в технических элементах. Он объясняет, что технологии по существу состоят из комбинаций других технологий и поэтому развиваются за счет открытия новых и полезных комбинаций этих элементов. С 1940-х годов был разработан новый класс кибернетических технологий (тогда называемых сервоуправляемыми, теперь называемыми умными), в которых машины, дополненные информационными технологиями, динамически адаптируются по мере получения обратной связи от окружающей среды, стирая грань между человеком и машиной. между машиной и окружающей средой. [2] Автоматизация первой волны - это когда эти технологии заменяют или дополняют задачи, выполняемые человеческими руками (которые могут манипулировать миром) и разумом (которые могут обрабатывать информацию). Результатом стало значительное повышение производительности труда людей, которое выражается в росте реальных доходов. [3]

Вторая волна автоматизации продолжает этот процесс с помощью нового класса технологий, основанных на конвергенции оцифровки, данных и аналитики. Однако в этой второй волне целью «замещения капитала» является не только индивидуальный человеческий труд (включающий как физический, так и умственный труд), но и системы высшего порядка и социальные институты. Целью автоматизации второй волны является не управление машинами, а управление людьми. Чтобы упростить это различие: в первой волне автоматические машины создавали вещи; во второй волне они принимают решения. И мы находимся только в начале этой новой эры технологических преобразований.

Что такое технологии второй волны?

Технологии второй волны относятся к конвергентному кластеру цифровых технологий, возникших в 1970–1990-х годах, но достигших совершеннолетия в начале 21 века. К ним относятся [4]:

· Искусственный интеллект (включая машинное обучение, нейронные сети глубокого обучения, когнитивные вычисления, семантическую сеть)

· Интернет вещей (технологии распознавания в сочетании с сетевыми технологиями)

· Виртуальная реальность (включая дополненную и смешанную реальность, сочетающую компьютерную визуализацию и технологии представления)

· Технологии распределенного реестра (одноранговые вычисления, криптография, протоколы консенсуса, смарт-контракты и децентрализованные приложения)

· Аналитика данных (суперкомпьютерные вычисления плюс большие данные)

· 5G (мобильный Интернет с очень высокой пропускной способностью и малой задержкой, а также облачные вычисления)

Каждая технология в этом кластере развивается в некоторой степени независимо, хотя и основана на аналогичных базовых драйверах повышенной вычислительной мощности и усовершенствований оборудования. Тем не менее, важность автоматизации второй волны проистекает из конвергенции этого набора технологий в новые возможности для социальной организации и институционального управления. Эти технологии открывают новые способы организации и координации человеческой деятельности. Как и человеческие институты, они предоставляют системы для принятия решений. Таким образом, автоматизация второй волны выходит за рамки замещения трудового капитала в область замещения институционального капитала.

Таким образом, автоматизация второй волны продвигает `` умные '' технологии вглубь экономической, регулирующей и организационной инфраструктуры, чтобы дополнить процесс принятия решений человеком за счет сокращения трудоемких административных процессов и бумажной работы и обеспечения принятия решений с значительно увеличенными затратами и обработкой информации. власть. Это повышает производительность, но также изменяет или удаляет структуры управления. Эти технологические возможности позволяют частично или даже полностью заменить человеческую деятельность посредством автоматизированного анализа и принятия решений.

Воздействие будет как видимым, так и невидимым. В первой волне автоматизации роботы заменяют людей, выполняющих «работу». Вторая волна автоматизации направлена ​​на создание глубокой и мощной автономии в таких вещах, как беспилотные автомобили, интеллектуальная инфраструктура, цифровые помощники, для создания новых обширных инфраструктур услуг. Они будут варьироваться от автономных услуг общественного транспорта с использованием интеллектуального управления сообществами до зеленых городов и интеллектуального правительства. Важно отметить, что эти инфраструктуры могут порвать с существующими моделями государственной и частной собственности; Вместо того, чтобы государственные агентства заключали контракты с частными поставщиками на строительство и обслуживание инженерных сетей, эти инфраструктуры можно было бы спроектировать так, чтобы они возвращали прибыль на их собственное обслуживание и развитие, устраняя обоих посредников.

Как этого добиться? Автоматизация второй волны будет встроена в среду обитания человека через аппаратную инфраструктуру и в рабочем состоянии будет зависеть от огромных массивов датчиков, повсеместного подключения и постоянного развития вычислительной обработки, хранения данных и сетевых технологий. Это необходимые инфраструктурные основы. Однако фактический прогресс и возможности автоматизации второй волны почти полностью осуществляются программным обеспечением, особенно в новых протоколах. Это означает, что затраты на разработку в значительной степени ложатся на талантливых людей (и команд), и что скорость внедрения может быть чрезвычайно высокой.

Еще одна ключевая особенность автоматизации второй волны заключается в том, что она использует возможности глубокой обработки данных. Когда обработка данных сочетается с автоматическими транзакциями (смарт-контрактами), это создает новые возможности и архитектуры для общественных услуг и общественных благ. Например, и частное страхование, и социальное страхование (а именно. Благосостояние) можно реконструировать не как объединение рисков, когда стороны платят в общий пул средств с правами заимствования, вызванными некоторым вероятным событием, а как контрагент контракты с отдельным держателем взаимного контракта (как это уже давно существует, например, на рынках перестрахования). Общие пулы эффективны, когда транзакционные издержки высоки, но они уязвимы и подвержены моральному риску. Контракты контрагентов, с другой стороны, в принципе могут быть созданы с помощью смарт-контрактов на блокчейне Ethereum. Это позволяет создать совершенно новую архитектуру страхования.

Переход к автоматизации второй волны не будет немедленным, но будет достигнут путем постепенного объединения существующих механизмов управления (закона, правительства, корпоративных структур) с автоматизированными процессами. Одним из примеров, который уже находится в разработке, является Mattereum, основанная на коде контрактная инфраструктура для автоматизированных транзакций, сопровождаемая системами для методов вынесения судебных решений в разных юрисдикциях в случае возникновения разногласий или непредвиденных результатов.

Даже с учетом этих продуманных шагов неспециалистам может быть сложно оценить и контролировать эти новые протоколы. Может быть трудно полностью оценить их возможные последствия и те опасности, которые они несут. Когда люди принимают решения и управляют социальными системами, просто будучи людьми, они предлагают перспективу разборчивости: они понятны, наблюдаемы и контролируются с помощью угроз, ограничений и стимулов. Но что происходит, когда очень сложное программное обеспечение выполняет те же функции социального управления?

Реальная угроза второй волны автоматизации

Автоматизация второй волны обещает реорганизовать экономику, но при этом она также угрожает реорганизацией общества, поскольку новые программные протоколы заменяют многие аспекты институтов, которые развивались и адаптировались за сотни лет, связанных с бюрократией, судами, городами, процессами управления, здравоохранением. , хозяйственный менеджмент, диагностика, высококвалифицированная организация, творческая адаптация. На протяжении столетий, и особенно в последние десятилетия, либеральные государства коллективно встраивали множество средств защиты не только в правовые и политические институты наших обществ, но и в моральные и этические кодексы культуры и поведения, которые поддерживают наши общие глубокие человеческие ценности. Здесь есть и более широкая глобальная озабоченность. С трудом завоеванные основы прав человека и институциональные механизмы защиты общества - великие достижения последних столетий. Существующая проблема заключается в том, что эти средства защиты могут не пережить автоматизацию второй волны или могут быть искажены неожиданным образом.

Автоматизация второй волны переносит машинное принятие решений в сферы, которые в лучшем случае были организованы с использованием человеческих качеств симпатии, суждения, этического мышления, экспертной дискриминации и мудрости опыта. Несмотря на то, что они подвержены ошибкам, являются дорогостоящими и медленными, они, тем не менее, служат буфером и защищают нашу внутреннюю человечность и ценности в управлении человеческими системами.

Когда общество полагается на машинное обучение, если это обучение не руководствуется этическими соображениями, оно будет строить будущее на основе имеющихся данных - наборов данных о предыдущих действиях, включая наши различия и ошибки. Такая дискриминация данных, конечно, уже является частью нашей реальности (алгоритм, который направляет объявления о вакансиях определенным группам, другой, который направляет полицию в определенные районы). Однако появляются новые технологии идентификации, которые обещают дать пользователям контроль над использованием их данных. Это поставит новые вопросы для этики данных: что влечет за собой агентство данных? Какие стимулы будут поддерживать рынки данных? Создадут ли открытые данные более качественные наборы данных и как мы узнаем об этом? Одно можно сказать наверняка: те, кто не связан в настоящем, будут невидимы для того, что ими управляет.

Перспективы автоматизации второй волны для сокращения транзакционных издержек и облегчения экономической и социальной координации огромны. То же обещание также создает значительный риск; что, если мы потеряем функционирующие институты, мы можем потерять достижения и защиту свободы, равенства, разнообразия, частной жизни, инклюзивности и социальной справедливости, которые были накоплены - какими бы частичными и несовершенными они ни были - и были встроены в институты, которые ранее выполняли эти задачи.

Наши современные институты эволюционировали и адаптировались, чтобы в целом защищать наши общечеловеческие ценности. Будут ли они такими же после автоматизации?

У нас есть хорошо разработанное повествование о хвостовых событиях для новых технологий - от мошеннического ИИ до вирусных вспышек - которые детализируют наши катастрофические сценарии природных явлений, таких как землетрясения или астероиды (например, Центр изучения экзистенциальных угроз) . Но что происходит, когда они поражают наши социальные, политические и экономические институты? Мы в основном склонны думать об этих ужасных сценариях с точки зрения появления плохих игроков (например, различных диктаторов). Но плохие протоколы могут быть столь же разрушительными, и не обязательно связаны с плохими участниками или намерениями.

Вторая волна автоматизации повлияет на институциональную сложность. Поэтому нам необходимо лучше понять, как цифровое общество и цифровая этика взаимодействуют со сложными учреждениями через комплексную программу исследований в области гуманитарных и социальных наук. Мы только сейчас начинаем описывать и понимать, какими могут быть эти новые способы координации. [5] Как мы можем осуществить этот переход, не рискуя трансформировать общество неожиданными и, возможно, вредными способами?

Эволюция социального управления

Существует известное экономическое историческое повествование о важности институтов: с древнейших времен до наших дней структура стимулов, обеспечивающих социальное управление, развивалась и развивалась посредством связанных институциональных комплексов правовых, политических и культурных механизмов. Все общества должны вознаграждать сотрудничество, наказывать за нарушения правил и защищать людей от хищничества сильных мира сего. При прочих равных, общества с культурными, правовыми, социальными и политическими институтами, которые могут способствовать сотрудничеству и преодолевать проблемы безбилетника, кажутся процветающими [6], и институты, обеспечивающие такой рост, таким образом, имеют тенденцию воспроизводиться »[7]. »

Но с автоматизацией второй волны (и особенно с технологией блокчейн) мы вот-вот войдем в мир, в котором то, что все еще в значительной степени экспериментальные протоколы для экономических стимулов, может предоставить оперативные силы и механизмы для формирования социального управления.

Экономические стимулы для социального управления могут иметь некоторые преимущества: они могут оказаться, по крайней мере, в некоторых случаях, более целенаправленными и эффективными, чем политические, правовые или культурные стимулы. Однако у нас очень мало опыта использования экономических стимулов таким образом и мы плохо понимаем индивидуальные, социальные и глобальные риски.

Существует фундаментальная потребность в глубоких фундаментальных междисциплинарных исследованиях, направленных на понимание природы этих новых технологий, а также рисков и возможностей, которые они несут.

[1] Артур, У. (2009) Природа технологий: что это такое и как развивается. Свободная пресса: Нью-Йорк.

[2] Мировски, П. (2001) Машинные мечты. Издательство Кембриджского университета. Минделл Д. (2017) Наши роботы, мы сами: робототехника и мифы об автономии. Викинг: Лондон.

[3] Макклоски, Д. (2016) Буржуазное равенство. Издательство Чикагского университета: Чикаго.

[4] Это часть того, что иногда называют четвертой промышленной революцией, или Индустрией 4.0, и также включает 3D-печать (или аддитивное производство), автономные транспортные средства, робототехнику, квантовые вычисления, беспроводную энергию, нанотехнологии и виртуальных персональных помощников. .

[5] Кэулдри, Н., Хепп, А., (2016) Опосредованное конструирование реальности. Polity Press: Cambridge

[6] Уилсон, Д.С., Уилсон, Э.О. (2008). Эволюция на благо группы ». Американский ученый. 96 (5): 380–389.

[7] Норт, Д. (1990) Институты, институциональные изменения и экономическая эффективность. Издательство Кембриджского университета: Кембридж.