Использование машинного интеллекта для исправления человеческой природы
Перспектива — анонсированный инкубатором идей Пила Пила алгоритм, который применяет технологические решения для борьбы с цензурой, кибератаками и экстремизмом, а также способен выявлять оскорбления, дисквалификации, личные нападки или ненормативная лексика в тредах.
Это алгоритм машинного обучения: комментарии, собранные из таких изданий, как The Economist, The Guardian, The New York Times и Wikipedia (опыт работы с The New York Times появляется в этой статье), оценивались рядом людей с помощью опросов и классифицируется по шкале от очень токсичного до очень полезного, при этом токсичность определяется как грубый, неуважительный или необоснованный комментарий, который может заставить вас покинуть обсуждение. Алгоритм пытается распознать эти комментарии, оценить их и найти похожие случаи, чтобы присвоить им аналогичную метку на основе процента вероятности.
Оттуда инструмент — на данный момент доступный только на английском языке — может использовать любой, кто хочет использовать его для продолжения обучения алгоритма. Менеджеры сайта могут использовать его по своему усмотрению: от простой маркировки комментариев на основе их предполагаемой токсичности до помощи в модерации до подключения к системам, которые удаляют или предотвращают отправку определенных комментариев в соответствии с их содержанием, при этом непрерывно обеспечивая обратную связь.
Алгоритм пытается решить одну из самых старых проблем участия в Интернете: тот факт, что люди и системы модерации не масштабируемы. На моей собственной странице, на которой обычно публикуется всего одна статья в день, я потратил много времени и сил на модерацию комментариев, чтобы попытаться поддерживать здоровую и продуктивную беседу, так что представьте задачу, стоящую перед газетой, которая публикует в сто раз больше статей всего различные спорные темы, такие как спорт или политика: это просто выходит за рамки возможностей большинства средств массовой информации и привело к тому, что многие издатели просто не разрешают комментировать или просто бросают темы на произвол судьбы и позволяют им стать гротом троллей. Это важный вопрос, потому что он угрожает лишить Интернета одного из самых интересных преимуществ: возможности участия в форумах, которые могут обогатить наше мнение или расширить наши точки зрения.
Еще слишком рано знать, изменит ли Перспектива правила игры или она станет жертвой злоумышленников, которые попытаются отравить ее, добавив ложную информацию. На данный момент английские слова могут быть введены на веб-сайте и могут быть добавлены в качестве API на страницы, которые хотят использовать его в целях тестирования. В любом случае, работает это или нет, идея использования алгоритма для решения проблемы человеческой природы, которую люди не смогли решить с помощью минимально масштабируемых решений, не что иное, как парадокс и пища для размышлений…
(En español, акви)
