Освободи свой разум
Капитализм, свобода слова и социальный контроль
Обществом все больше управляют безликие корпорации, наделенные силой бездушных алгоритмов искусственного интеллекта.
Свобода воли — это наивное, устаревшее понятие, имевшее смысл до того, как корпорации и политики стали экспертами в манипулировании людьми и использовали ИИ, чтобы делать это хорошо. В современном мире мы должны, по крайней мере, изменить наше понимание свободы воли и признать, что даже если «они» не могут (пока) заставить вас делать и думать все, что им хочется, они могут достаточно надежно влиять на группы людей.
Мы вступили в дивный новый мир, в котором людьми можно манипулировать с возрастающей точностью и эффективностью; мир, в котором корпорации стали рассматривать овец как один гигантский винтик в машине, направляющей прибыль тем, кто находится на вершине; мир, в котором машины расширяют возможности тех, у кого есть нужные знания и ресурсы, способами, которые мы раньше не рассматривали.
Свободная воля
Свобода воли — это, грубо говоря, способность человека сочетать свой дух или истинное «я» со своей способностью разума, чтобы прийти к выводу и предпринять действия. Этот древний взгляд, восходящий, по крайней мере, к Платону и Аристотелю, предполагает, что мы являемся хозяевами своей судьбы как в материальном, так и в этическом отношении. Мы можем (материально) воздействовать на мир вокруг нас, и нас могут (этически) судить по нашим действиям, поскольку они не предопределены Богом. Наши мысли и действия находятся под нашим контролем.
Это естественным образом приводит к идее свободы слова. Конечно же, мы хотим предоставить людям информацию и идеи, чтобы позволить каждому человеку определить свои собственные лучшие действия, которые, несомненно, будут полезны для общества и будут должным образом соответствовать его внутренней природе.
Эта идея не так хорошо держится. Сегодня мы должны понимать, что действия человека во многом управляются средствами массовой информации, информационными пузырями и социальным давлением, находящимся вне его или ее контроля.
Маркетинг, вовлечение и манипулирование
Правильная информационная диета в сочетании с управляемыми компьютером системами обратной связи, очевидно, может заставить людей что-то делать. Не на каждого человека и не на любое действие — но в совокупности на людей можно надежно повлиять.
Направление и полезность свободы слова существенно изменились.
Например, может оказаться невозможным нацелиться на случайную женщину по имени Шеронда, которая живет в Кливленде, и заставить ее купить Strawberry Frosty. Тем не менее, вы, безусловно, можете заставить гораздо больше людей в Кливленде покупать Frosties, если вы работаете над этим. Целые отрасли существуют именно для этого.
На самом деле никого не волнует, кто покупает Фрости. Но как насчет того, чтобы заставить 12-летнюю девочку листать свой телефон по шесть часов в день? Или 30-летний мужик штурмовать Капитолий?
Сегодня люди ведут явно нездоровый образ жизни, зависимые от возмущения и дофамина, которые подпитываются через социальные сети и обычные каналы СМИ. Возмущение стимулирует «взаимодействие» со СМИ, что выгодно компаниям, которые этим занимаются, но плохо для их пользователей. Это все еще «свободная воля» в действии?
Машинное обучение и ИИ
Способность манипулировать людьми была обнаружена недавно (или, по крайней мере, созрела), когда компании, работающие в социальных сетях, начали использовать ИИ для нацеливания на отдельных пользователей контента, который сделал их более вовлеченными.
Все дело было в глазных яблоках. Ничто другое не имело значения, и никого не волновало, как и почему эти глаза были прикованы к Твиттеру, Фейсбуку или Инстаграму. ИИ понял это, и прошли годы, прежде чем мы, люди, осознали, что именно открыл ИИ: возмущение и трайбализм стимулируют участие.
Эволюционно это имеет смысл. Люди, которые обычно не желают умирать по какой-либо причине, надежно становятся отважными солдатами, если действительно возмутительное поведение угрожает их семье и друзьям. Возмущение превращает эгоистичную, раздробленную группу людей в групповой коллектив, который больше похож на муравьиную колонию, чем на группу отдельных людей со свободной волей.
Племенное возмущение, впервые обнаруженное с помощью машинного обучения, теперь используется редакторами, писателями, политиками и маркетологами, чтобы более эффективно захватывать и мотивировать свою собственную аудиторию. (Подумайте, почему сейчас вы видите так много мусора даже на Medium….)
Иногда это называют промышленным комплексом возмущения.
Корпоративная фиксация на акционерной стоимости
Машинное обучение, ИИ и компании, которые их разрабатывают, безусловно, могут манипулировать группами людей гнусными способами. Но зачем кому-то это делать?
Возможно, наивный вопрос — это из-за денег — но в него стоит вникнуть.
Закон о доходах 1978 года, возможно, стал переломным моментом в переориентации корпораций исключительно на акционерную стоимость. Облагая налогом регулярную заработную плату по гораздо более высокой ставке, чем опционы на акции или гранты, Закон побуждал компании согласовывать стимулы для руководителей с акционерами. Теория того времени заключалась в том, что это сделает бизнес более продуктивным и эффективным.
И это так! Но непреднамеренным последствием этого является то, что теперь корпорации эффективны прежде всего в том, что направляют деньги руководителям и владельцам компаний.
Другие корпоративные цели, такие как улучшение жизни своих сотрудников, вклад в развитие местных сообществ и общества и даже принесение пользы своим клиентам, больше не актуальны… за исключением случаев, когда эти цели влияют на акционерную стоимость.
Интеллектуальные основы были заложены несколькими годами ранее, мыслителями свободного рынка в 1970-х годах. В 1970 году Милтон Фридман написал в NYT, что:
[Э] доктрина «социальной ответственности» [является] коллективистской доктриной. В [свободном] обществе «существует одна и только одна социальная ответственность бизнеса — использовать свои ресурсы и заниматься деятельностью, направленной на увеличение прибыли, пока она остается в рамках правил игры, то есть участвует в в открытой и свободной конкуренции без обмана и мошенничества».
В контексте холодной войны и жестоких репрессий, исходивших от марксистских режимов, он был прав, беспокоясь об излишествах «коллективистского» контроля, которые часто оправдывались тем, что они имели наилучшие «социальные» результаты для людей в целом, но на самом деле приводили к к тоталитаризму.
Но теперь, 50 лет спустя, в контексте мощных, всепроникающих и убедительных методов искусственного интеллекта, максимизация акционерной стоимости стала более серьезной проблемой, и нам нужно сбалансировать эту проблему с политическими рисками коллективистской активности.
Свобода слова
Свобода слова — это прекрасно, и она необходима для поддержания свободного общества, но ее уже достаточно. Машинное обучение, искусственный интеллект и корпоративный контроль над информацией — через новостные организации, приложения для социальных сетей и, возможно, университетскую бюрократию — в сочетании со свободой слова позволяют влиять на людей и контролировать их, а не позволяют людям контролировать политиков и корпорации. Свобода слова + ИИ часто превращаются в пропагандистскую машину.
Никто не заботится о том, кто покупает Фрости. Но как насчет того, чтобы заставить 12-летнего ребенка пролистывать свой телефон по шесть часов в день? Или 30 летний мужик штурмовать Капитолий?
Направление и полезность свободы слова существенно изменились.
Контроль и использование информации эволюционировали, чтобы ограничивать и искажать мышление людей, а не информировать и интеллектуально улучшать их. Если какой-то парень не будет нажимать на возмутительный контент о трансгендерных видах спорта, алгоритмы вычислят, что он нажмет на ссылки о налогах и неравенстве. Или патриархат или аборты. В конце концов, они доберутся до него, и до нас с тобой тоже доберутся.
Если вы видели эту статью на Medium, это, вероятно, потому, что какая-то машина думает, что вы, вероятно, нажмете на нее и посвятите свои драгоценные глазные яблоки Medium.com еще на несколько минут.
В защиту свободы слова
Чтобы было ясно — нам нужна свобода слова. Без этого контроль над информацией будет только хуже, а демократия потеряна. Но пришло время пересмотреть, как работает свобода слова в новую, механизированную, племенную эпоху, в которой мы все живем.
Свобода слова является частью более крупной системы, которую мы теперь понимаем лучше. Механизированная, ориентированная на СМИ система, которую следует понимать как единое целое.
Решения
Я с нетерпением жду, дорогой читатель, ваших вдумчивых идей о том, как приспособить наши представления о свободе воли, корпоративном управлении, политике и средствах массовой информации в нашем дивном новом мире.
Со своей стороны, я думаю, что общественная осведомленность и обсуждение (да, а также свобода слова!) могут привести к появлению новых правил и норм, которые учитывают опасности и манипуляции, которым мы сейчас подвергаемся.
Это потребует работы. Это будет новая форма медиаграмотности. Это потребует мудрости.
Возможно, первым шагом для вас будет поделиться этой статьей с людьми, которые, по вашему мнению, могут быть заинтересованы или проинформированы ею. Я всегда признателен, если вы будете распространять эти идеи.
