Что будущее технологий делает для будущего доверия.

Я много времени думал о том, как новые формы искусственного интеллекта и машинного обучения будут формировать общество в ближайшее десятилетие. Одна из областей, в которой я углубился, - это то, как широко распространенные манипуляции и создание цифровых активов проявятся в нашей повседневной жизни.

Мой главный вывод в моем исследовании до сих пор таков:

Мы переходим от общества доверия по умолчанию к обществу скептиков по умолчанию. Или, другими словами, в то время как сегодня люди в основном доверяют тому, что они слышат / видят, завтра они не будут.

Как скептицизм проник в общество сегодня?

На протяжении своей жизни я видел, как произошел сдвиг в сторону скептицизма. ~ 10 лет назад люди верили в то, что они могли видеть с относительно высокой степенью достоверности, и в то, что им рассказывали в крупных средствах массовой информации. Photoshop заставил людей скептически относиться к непонятным изображениям. Смартфоны, социальные сети и интернет-публикации привели к росту кликбейтов и фейковых новостей, что сделало общество в 2018 году все более скептически настроенным к интернет-контенту (и платформам, которые его продвигают), чем в 2017 году.

Это началось с появлением инструментов творческого редактирования, перешло к основанному на данных пониманию людей и того, как они потребляют информацию, и закончилось тем, как машинное обучение улучшает масштабируемость при создании и управлении всеми типами визуальных и звуковых ресурсов.

Но сегодня мы все еще верим, и мы доверяем определенным источникам, которые будут продолжать сообщать правду, и мы по умолчанию им верим.

Что произойдет, когда это доверие начнет подрываться?

Что произойдет, когда первый человек / группа продемонстрирует мощь масштабируемого и правдоподобного фальшивого аудио или видео в качестве оружия? Недавно мы увидели первые признаки этого с DeepFake, технологией, используемой для наложения лиц знаменитостей в порно (среди прочего).

Результат? Интернет взбесился, и несколько платформ применили нехарактерный для него подход с жесткой цензурой, быстро запретив контент. И хотя дипфейки часто манипулируют чем-то столь же священным, как половые акты, нацеливание на знаменитостей в нашем нечувствительном к сексу мире мире заставляет меня поверить в то, что потенциальное влияние на общество таких технологий, как эта, будет реализовано не с помощью подобных манипуляций, а с помощью того, что может произойти. следующий.

DeepFake и все, что за ним последует, посеет семена сомнения и скептицизма в умах людей и разрушит идею о том, что вы «должны увидеть это, чтобы поверить в это». Но только после того, как ложные активы будут использованы для чего-то столь значимого, как запуск какого-то широко распространенного триггера на финансовых рынках или в государственных учреждениях, или когда они изменят исход чего-то столь крупного, как выборы (опять же?), Это семя расцветет в изменение мышления для общества.

В конце концов, от фактов, «важных для проверки», можно будет перейти к повседневным разговорам. Будучи поколением, которое записывает все, что мы делаем, чтобы создать социальное доказательство, станут ли наши существующие цифровые следы бесполезными, как только наши каналы станут «ценными»? Произойдет ли возрождение доверия к этим типам активов в результате возврата к аналоговым средам?

Возможно, идея «реальное или нет» будет значить меньше, когда наши миры уже заполнены множеством реальностей, и мы скачем между физическим и цифровым мирами.

Все это интересные упражнения для размышлений, но во многом я смотрю на мир как инвестор, а также как человеческое мнение о будущем через точки перегиба. Хотя я не уверен в том, что послужит катализатором в этом конкретном случае, я вполне уверен, что мы быстро приближаемся к переломному моменту в том, как люди внутренне вычисляют всю новую информацию. Исходя из этого, мы должны выяснить, может ли сила общих убеждений и стимулов удержать нас в обществе доверия по умолчанию, или же новая волна технологий сделает нас скептиками по умолчанию.