Несколько дней назад я просматривал ссылку на Slate, в которой подробно рассказывается о том, как Грнчаров, 20-летний парень из Македонии, смог обмануть Мартину Навратилову, Серену Уильямс, BBC и все теннисное сообщество, чтобы они поверили его способностям в теннисе. .
Ссылка- https://slate.com/culture/2018/02/how-darko-grncarov-tricked-serena-williams-and-the-bbc.html)
В то же время я также наткнулся на проводной пост о том, как Facebook может вручную модерировать свою новостную ленту, чтобы продвигать повестки дня определенных фракций. В социальных сетях появляется несколько фейковых постов / новостей / статей, которые иногда даже вызывают серьезный общественный резонанс. То, как мы продвигаемся вперед, совершенно очевидно, что в ближайшие годы производство фейковых новостей будет на пике популярности. Так как же нам начать контролировать это?
Фейковые новости - это часто используемый термин в наши дни, ставший популярным в основном после демонетизации Моди, выборов в США и появления JIO. Facebook стал настолько популярным, что в какой-то момент в одной из стран Южной Азии он пересек Google и стал самым популярным средством поиска последних новостей. Технологический прогресс принес нам это, и мы считаем, что средства для контроля его роста также могут быть предоставлены технологиями, доступными в настоящее время.
Я разделил эту тему на две части. Первая часть дает общее представление о том, как мы можем использовать современные технологии для решения проблем с поддельным контентом, и мы будем работать больше как база для моей следующей части. Во второй части мы подробно рассмотрим несколько решений Blockchain, которые можно разработать для борьбы с фальшивыми новостями.
Эпизод 1:
Изначально, когда мы начинали, наша идея заключалась в том, чтобы решить проблему поддельного контента на уровне домена веб-сайта. Мы исследовали и создали исходную базу данных сайтов, с которых распространяется несколько фейковых статей / сообщений. Идея заключалась в том, чтобы создать плагин для Chrome, который будет извлекать адрес домена веб-сайта при открытии URL-адреса статьи, сравнивать его с доступной базой данных и давать оценку вероятности того, что это фальшивая статья. Основная идея заключалась в том, чтобы пользователь мог получить доступ к статье из любой учетной записи в социальной сети или из любого другого источника, но в конечном итоге он попадал бы на родительский веб-сайт. Но этот процесс, несмотря на то, что на начальном этапе выглядит хорошо, имел серьезные недостатки на его основном уровне.
- Проблемы с масштабируемостью. Обновление базы данных часто связано с утомительным ручным трудом по поиску и обновлению.
- Проблема безопасности. Идея заключалась в том, чтобы вести открытую базу данных веб-сайтов, распространяющих вероятные поддельные статьи. Сохранение открытого исходного кода позволит постоянно обновлять базу данных. Была бы центральная команда для модерирования базы данных, но это все еще не было надежным решением.
- Проблема с контролем. Мы можем распознать поддельную статью, если веб-сайт есть в нашей базе данных. В сценариях, когда какой-либо другой веб-сайт, не являющийся частью нашей базы данных, начинает распространять эти статьи, это приводит к еще большей путанице из-за уже запутанной поддельной статьи.
- Использование адреса домена для проверки также не было идеальным способом, поскольку это могло создать неправильное восприятие статей, которые на самом деле не являются поддельными, и не идеально наказывать весь веб-сайт за пропуск одной статьи.
Мы посчитали, что это была честная попытка с нашей стороны, и приостановили проект, чтобы посмотреть на существующие технологии, которые могут помочь нам решить эти проблемы и могут помочь нам в создании экономического обоснования на их основе.
Эпизод 2:
Решение должно заботиться о том, чтобы открытые системы оставались на своих местах, и в то же время использовать интеллект и силу читателей, чтобы внести мир в этот хаос.
Если мы сможем определить автора / источник фальшивой статьи или веб-сайт, который первым ее опубликовал, и держать их перед всеми читателями, они автоматически потеряют доверие.
Оказывается, технология Blockchain неплохо справляется с этим. Я не хочу утомлять вас объяснением технологии Blockchain, я выделю несколько ее особенностей, которые могут помочь нам в решении проблем, которые мы видели раньше.
- На основе консенсуса - транзакция в цепочке блоков может быть выполнена только тогда, когда все участвующие стороны одобрят транзакцию. Консенсуса можно достичь с помощью любого из популярных механизмов: Proof of Work или Proof of Stake (достоверность). Проблема безопасности, с которой мы столкнулись, может быть решена с помощью механизма консенсуса с доказательством доли.
- Неизменяемость данных. После того, как вы согласились на транзакцию и записали ее, ее уже нельзя будет изменить. Впоследствии вы можете записать другую транзакцию с этим активом, чтобы изменить его состояние, но вы никогда не сможете скрыть исходную транзакцию. Это дает представление о происхождении активов, что означает, что для любого актива вы можете сказать, где он находится, где он был и что происходило на протяжении его срока службы.
- Это станет общедоступным документом для всех нас, чтобы мы знали, кто что сказал и в конечном итоге оказалось, что то, что они утверждали, вводило в заблуждение.
Как нам это сделать?
Хотя идеальным решением было бы указать авторов и сайты, запускающие фальшивые статьи. Мы считаем, что невозможно остановить производство фейковых новостей с самого начала, но мы полагаем, что это первый шаг, который, если мы сможем отключить их источники распространения, они будут постепенно бездействовать, и следующим шагом будет определение авторов этих статей. .
По сути, поскольку мы хотим, чтобы наша база данных была с открытым исходным кодом, она будет опираться на цепочку блоков. Новые транзакции (проверка фактов) будут регистрироваться в блокчейне, и средства проверки фактов будут следовать механизму доказательства достоверности для проверки достоверности статей, делая ставки на их оценки достоверности.
На этом этапе важно знать, что на начальном этапе проверяющий фактов будет нести ответственность за достоверность статьи. Специалисты по проверке фактов будут вознаграждены оценкой достоверности, если статья правильно помечена как фальшивка, и будут наказаны, если она помечена неправильно. Когда история будет опубликована в будущем, мы сможем оценить ее потенциальную лживость на основе оценки достоверности проверки фактов. Обратите внимание, что транзакции означают, что запрос от плагина Chrome отправляется в механизм идентификации поддельного веб-сайта (объяснено в последней части статьи) для проверки достоверности веб-сайта или статьи.
Сама по себе цепочка блоков не может решить эти проблемы, ее необходимо интегрировать с системами данных, чтобы постоянно генерировать аналитические данные, для дальнейшего масштабирования базы данных и улучшения механизма идентификации поддельных веб-сайтов.
Механизм идентификации поддельных веб-сайтов выполняет 3 функции:
- Запрос от плагина будет принят движком. Он будет проверен по существующей базе данных на предмет достоверности. Если запись недоступна или уровень достоверности низкий (
- На основе генерируемых транзакций механизм идентификации будет запускать рейтинг для каждого веб-сайта и статей. Соответственно, оценка обновляется на основе значения надежности, созданного после каждой транзакции.
- Также движок будет искать похожие статьи и веб-сайты, которые продолжают появляться, фальшивая история может быть представлена в разных формах в разных статьях, когда определенная статья помечена средством проверки фактов, движку необходимо проверять похожие истории и классифицировать их. как подделка или снова отправьте его в цепочку блоков.
Для достижения всего этого машинное обучение также станет ключевым компонентом наряду с технологией Blockchain.
Использование компонентов машинного обучения для непосредственной классификации и пометки статьи на основе источника и автора займет определенное время, поскольку необходимо потреблять большой объем данных, чтобы обучить системы точно идентифицировать их и поддерживать оценка их достоверности. Первоначальная оценка компонентами машинного обучения может быть рискованной, и статья будет помечена только в том случае, если оценка вероятности того, что она является фальшивкой, очень высока.
Начните с проверки фактов, чтобы пометить статьи, предоставив им стимул в виде жетонов достоверности, и постепенно создавайте системы данных, чтобы помочь специалистам по проверке фактов принимать более обоснованные решения.
В следующей части статьи мы постараемся подробно изучить несколько решений, которые могут быть созданы для борьбы с фальшивыми новостями, например, с использованием блокчейна - Протоколы достоверности, Блокчейн доверия к прессе, автономные Dapps.
P.S. Пожалуйста, поддержите Fakeblok, https://fakeblok.com/