Имеет значение то, как люди потребляют и передают электронные сообщения. Действия, предпринятые Сезаром Сайоком в октябре 2018 года, дают понять, почему. Сайок был арестован 26 октября 2018 года после того, как разослал самодельные бомбы многим известным критикам президента Дональда Трампа. В результате действий Сайока никто не пострадал. Однако террористическое поведение Сайока вызвало интерес к его присутствию в Интернете, а его слова в социальных сетях нарисовали радикальную картину. В статье New York Times журналисты заархивировали сообщения Сайока в социальных сетях до того, как аккаунты Сайока были заблокированы Facebook и Twitter. Кевин Руз пишет:
В течение многих лет эти платформы привлекали внимание г-на Сайока постоянным потоком возмущения и гиперпартийной приманкой и давали ему возможность заявить о своей верности г-ну Трампу и своей антипатии к врагам президента.
В статье Руз описывает десятки постов, в которых Сайок поделился радикализирующими идеями об исламистском терроризме, нелегальной иммиграции и теориях заговора против Клинтона и Обамы. Примечательно, что Сайок продолжал публиковать сообщения, поскольку ФБР проводило розыск серийного бомбардировщика. Руз описывает твит Сайока, опубликованный в среду, 24 октября, через два дня после того, как первая бомба прибыла в дом инвестора-миллиардера Джорджа Сороса, и за два дня до возможного ареста Сайока:
[Сайок] отправил твит в Твиттер на веб-сайте TMZ, в котором критиковал Эндрю Гиллума, кандидата от Демократической партии на пост губернатора Флориды, за сбор средств на предвыборную кампанию от г-на Сороса и других либеральных спонсоров.
«Марионетка Сороса за 500 000 долларов», - гласил текст поверх изображения.
Хотя невозможно определить точный эффект радикализации контента на Сайока, очевидно, что социальные сети сыграли роль в его мировоззрении и окончательном решении попытаться причинить вред тем, кого он считал своими врагами. Именно с учетом подобных примеров мой опыт во взломе для защиты (обычно называемом «H4D»), занятии, преподаваемом в Университете Южной Калифорнии (USC), стал таким значимым.
Взлом для защиты - это семестровый курс, который объединяет правительственные оборонные организации, работающие над сложными проблемами, со студентами, желающими попытаться решить эти проблемы. Попутно студентов обучают методологии бережливого стартапа, которая дает студентам основу для размышлений о своей проблеме и запуска решения. В нашу команду входили Брайан (технический специалист по информатике), Бен (мастер на все руки, изучающий дизайн, инженерное дело и бизнес в Академии Айовина и Янга), Мими (второкурсница, но самая впечатляющая из них. связка) и я (специальность гуманитарные науки).
В начале семестра наша команда оказалась в классе, полном аспирантов, которые работали вместе с Бюро по противодействию насильственному экстремизму (CVE) Государственного департамента над проблемой типа «вскипятить океан»: как мы можем определить, решить, и вмешиваться в жизнь молодых людей, которым грозит опасность радикализации? С помощью нашего проблемного спонсора, инструкторов и 70 опрошенных заинтересованных сторон, вовлеченных в сферу CVE, мы в конечном итоге сузили круг ведения до продукта, который позволил бы командам по цифровому обмену сообщениями по всему миру бросить вызов радикальным нарративам в Интернете.
Мы начали свой путь с исследования радикализации в Интернете. Мы узнали, что террористические организации и группы белых националистов являются одними из первых групп, которые захватили территорию в Интернете и посвятили себя вербовке людей для своего дела. Эти группы распространяют пропаганду среди молодежи через онлайн-платформы, такие как Twitter и Facebook, а также доставляют персонализированные сообщения о найме через платформы для обмена зашифрованными сообщениями, такие как Telegram.
Именно здесь вступает в силу CVE и работа Бюро Государственного департамента, с которым мы сотрудничаем. CVE - это объединение правительственных и гражданских инициатив, направленных на противодействие насильственному экстремизму и его предотвращение путем устранения ряда возможных причин. Устраняя коренные причины, мы находим профилактические меры в семье и общественные инициативы, такие как семинары по построению мира и религиозной терпимости. Затем социальные работники, психологи, правоохранительные органы, религиозные лидеры и ученые формируют междисциплинарные группы, создавая индивидуальные программы вмешательства. Когда экстремистские мысли становятся экстремистскими действиями, появляется больше реакционных ответов, таких как вмешательство безопасности. Нашему решению CVE нужно было бы сосредоточить внимание где-то посередине между всеми этими усилиями, но мы не знали, где именно.
Первые ученые и исследователи, с которыми мы разговаривали, например, доктор Эрролл Саутерс из USC, предложили США и Германию в качестве потенциальных бенефициаров нашего решения, учитывая, что в последнее время возникло множество групп белых националистов. Мы были увлечены этим вопросом, однако после обсуждений с Государственным департаментом мы поняли, что нам нужно сосредоточить внимание на международных развивающихся странах. Таким образом, отслеживая ключевые показатели, учитывающие потребности страны в программе вмешательства, такие как проникновение в Интернет, влияние терроризма и финансирование CVE, мы сузили наш фокус до Филиппин и Малайзии, двух стран, которые, по нашему мнению, созрели для новых разработок в области CVE.
В первую неделю после выбора этих стран мы не знали, как связаться с людьми на местах, уже работающими над проблемой. Бен и Мими провели много ночей, холодно обзванивая социальных работников, правительственные организации, занимающиеся проблемами CVE, и религиозных лидеров за границей, но никто не хотел с нами разговаривать.
Когда мы наконец связались с командой Регионального центра по борьбе с терроризмом Юго-Восточной Азии (SEARCCT), работающей над этой самой проблемой в Малайзии, мы узнали, что в пространстве CVE в этих странах преобладают не группы вмешательства, а скорее контр-нарративы. команды. В развивающихся странах не хватает ресурсов, чтобы нанять десятки государственных служащих, социальных работников и лидеров сообществ для создания программ сквозной инфраструктуры. Вместо этого более осуществимо онлайн-масштабируемое решение, потому что именно здесь небольшие команды, возможно, могут иметь большее влияние.
Команды по обмену цифровыми сообщениями создают альтернативные позитивные нарративы, которые доходят до молодежи, сталкивающейся с террористическими нарративами в Интернете. Процесс создания этих сообщений длительный и требует большой совместной работы. Во-первых, аналитик социальных сетей отслеживает террористические сообщения в Интернете, собирает скриншоты этих сообщений и систематизирует их по полезным тегам, таким как язык, тип повествования или выраженное недовольство. Оттуда остальная часть команды может получать сообщения от аналитика по электронной почте для проведения различных анализов.
Один из этих членов команды - автор повествования, который, в зависимости от радикализирующего сообщения, создает соответствующий контрнарратив. Затем этот контр-рассказ передается производителю контента, который превращает сообщение в удобоваримый онлайн-контент, такой как короткое видео или популярный мем. Контент выталкивается на платформы социальных сетей, и маркетолог в социальных сетях отслеживает успех повествования.
Мы поняли, что существует огромное препятствие на первом этапе этого процесса, когда аналитик социальных сетей вынужден целыми днями снимать скриншоты сообщений Twitter, Telegram или Facebook и сортировать их в буквальные папки на рабочем столе по определенным категориям. Если другой член команды хочет изучить определенное сообщение, аналитик социальных сетей должен отправить снимок экрана этому члену команды по электронной почте. Это огромная трата времени для этого человека, но также и для всей команды: автор повествования, создатель контента и маркетолог должны полагаться на организацию и электронную почту аналитика для поиска сообщений.
Наше решение, которое мы назвали Turnstone, автоматизирует ручной парсинг и категоризацию в два этапа, что, в свою очередь, дает аналитику время для дальнейшего анализа этих сообщений. (1) Вместо того, чтобы делать снимки экрана сообщений, Тернстоун извлекал из Twitter и Telegram API-интерфейсы для очистки и извлечения экстремистского контента в Интернете. Затем аналитик пометил и классифицировал сообщения с помощью интерфейса Turnstone, что в конечном итоге привело к созданию помеченного и записанного набора данных экстремистских сообщений.
(2) Используя методы обработки естественного языка и базу данных с тегами, мы создадим алгоритм машинного обучения, который будет сортировать и маркировать все сообщения, полностью автоматизируя сортировку контента. Мы узнали, что такого рода машинное обучение уже проводится академическими исследователями, такими как Адам Бадави и Эмилио Феррара, авторы книг Предсказание онлайн-экстремизма, контент-адоптеры и взаимное взаимодействие и Рост джихадистской пропаганды в социальных сетях. После разговора с парой мы считаем, что теоретически возможно с помощью достаточно большого набора данных научить машины обработки естественного языка классифицировать и помечать сообщения в социальных сетях в соответствии со многими тегами, используемыми сегодня аналитиками контр-обмена сообщениями.
Конечным результатом является доступная для поиска база данных с интерфейсом, подобным приведенному ниже, где группа пользователей, отправляющая встречные сообщения, может сортировать сообщения по местоположению, времени, платформе, языку, уровню радикализации, типу повествования и типу выраженного недовольства - то же самое. полезные категории, которые сейчас используют аналитики. Освободив большую часть своего времени, аналитики теперь могут переключиться на более сложный анализ террористических нарративов, и вся команда больше не полагается на аналитика, чтобы легко находить и разбираться в экстремистских сообщениях в Интернете.
В течение оставшейся части семестра мы начали беседы с двумя другими исследовательскими организациями цифрового терроризма в Сингапуре (Международный центр исследований политического насилия и терроризма h) и Объединенных Арабских Эмиратах (Центр Саваб) и подтвердили, что их контр-сообщения команды следовали аналогичным процессам при создании этих онлайн-повествований. Это означало, что наш программный продукт потенциально может применяться в командах по всему миру, что делает Turnstone ценным для более широкого рынка клиентов.
… Вот и закончился наш 15-недельный спринт в H4D. В конце концов, мы представили доказательство концепции нашему спонсору из Госдепартамента и множеству профессионалов оборонной промышленности, включая Rt. Достопочтенный Генерал Дэвид Петреус. Мы получили множество отличных отзывов и возможностей для сотрудничества с другими командами. Еще многое предстоит сделать, но мы надеемся, что обнаружение наших клиентов и создание минимально жизнеспособного продукта продемонстрировали Государственному департаменту важность технологических инструментов, которые могут сделать группы по обмену сообщениями более продуктивными. Хотя мы с тремя товарищами по команде идем по пути, отличному от этого конкретного проекта, я могу сказать, что вся команда взволнована потенциальными возможностями в области гражданских и государственных технологий в будущем.
