Пара историй о Gizmodo побудила журналистов задать вопросы о способности Facebook манипулировать политическим мнением в и без того жаркий год выборов. Если утверждения верны, подрядчики Facebook подавили некоторые консервативные новости, и их кураторская рука влияет на список тенденций Facebook больше, чем общественность осознает. Марк Цукерберг зашел на свою страницу в Facebook вчера, чтобы доказать, что Facebook делает все возможное, чтобы сохранять нейтралитет, и что существуют важные процедуры для минимизации необъективного освещения. Он также обещает разобраться с обвинениями.

Поскольку этот разговор вращается вокруг намерений и явных манипуляций, упускаются некоторые важные вопросы. Во-первых, все системы предвзяты. Когда дело касается СМИ, не бывает нейтралитета. Это уже давно выдумка, в которой традиционные средства массовой информации нуждаются и на которой настаивают, даже несмотря на то, что ученые подчеркивают, что журналисты раскрывают свои предубеждения во всем, от небольших подергиваний лица до выбора рамок и тем, представляющих интересы. Также опасно предполагать, что «решение» состоит в том, чтобы гарантировать, что «обе» стороны аргумента будут одинаково услышаны. Это источник огромного конфликта вокруг того, как освещаются острые темы, такие как изменение климата и эволюция. Однако еще опаснее думать, что устранение людей и большее доверие к алгоритмам и автоматизации устранят эту предвзятость.

Признание предвзятости и предоставление возможности процессам бороться с ней должно быть частью любого кураторского процесса, алгоритмического или иного. По мере того, как мы переходим к разработке алгоритмических моделей для формирования редакционных решений и курирования, нам необходимо найти изощренный способ борьбы с предубеждениями, которые влияют на разработку, обучающие наборы, обеспечение качества и исправление ошибок, не говоря уже о явном акте « человеческое суждение.

Нейтралитета никогда не было и не будет.

Эта проблема выходит далеко за рамки поля «Тенденции» в углу вашего профиля в Facebook, и эта последняя волна опасений - лишь верхушка айсберга относительно того, как влиятельные субъекты могут влиять на политический дискурс или формировать его. Сейчас беспокоит не то, что люди играют роль в формировании новостей - они всегда играли, - а видимость объективности, обеспечиваемая интерфейсом Facebook, заявления о нейтралитете, обеспечиваемые интеграцией алгоритмических процессов, и предположения то, что является приоритетным, отражает только интересы и действия пользователей («общественная сфера»), а не интересы и действия Facebook, рекламодателей или других влиятельных лиц.

Основная проблема, возникающая в результате этих дебатов, касается подотчетности. Теоретически средства массовой информации подотчетны общественности. Как и нейтралитет, это скорее желаемая цель, чем то, что последовательно реализуется. В то время как традиционные средства массовой информации стремились - но не всегда реализовывали - значимую подотчетность, существует множество процессов для устранения возможности манипулирования: омбудсмены, информаторы, общественные редакторы и множество альтернативных медиа-организаций. Facebook и другие технологические компании исторически не участвовали в этом разговоре.

Я очень уважаю Марка Цукерберга, но думаю, что его позиция о том, что Facebook будет нейтральным, пока он главный, является опасным заявлением. Вот что значит быть доброжелательным диктатором, и во всем мире есть множество людей, которые не согласны с его ценностями, обязательствами и логикой. Как прогрессивный американец, у меня гораздо больше общего с Марком, чем нет, но я болезненно осознаю неолиберальные американские системы ценностей, которые встроены в саму архитектуру Facebook и нашего общества в целом.

Кто управляет общественной сферой в эпоху алгоритмов?

В свете этой публичной беседы я рад сообщить, что Data & Society разрабатывает проект, в котором задается вопрос, кто контролирует публичную сферу в эпоху алгоритмов. В рамках этого процесса мы созвали семинар и подготовили ряд документов, которые, по нашему мнению, имеют большое значение для разговора:

Эти документы предоставляют исторический контекст, подчеркивают, как СМИ всегда были вовлечены в борьбу за власть, демонстрируют проблемы, с которыми сталкиваются новые СМИ, и предлагают тематические исследования, раскрывающие сложности в будущем.

Этот разговор ни в коем случае не окончен. Это только начало. Я надеюсь, что мы быстро выйдем из состояния страха и начнем придумывать механизмы ответственности, с которыми мы, как общество, сможем жить. Такие учреждения, как Facebook, обладают огромной властью, и они могут использовать эту власть во благо или во зло. Но для того, чтобы общество функционировало ответственно, должна существовать система сдержек и противовесов, независимо от намерений какого-либо одного учреждения или его лидера.

Пункты / сферы: В статье Facebook должен быть подотчетен общественности Дана Бойд комментирует недавний шум вокруг окна Тенденции в Facebook и представляет разрабатываемый Data & Society проект Алгоритмы и общественность, в том числе пакет документов по теме Кто управляет общественной сферой в эпоху алгоритмов? цех. Еще сообщения от участников семинара: