Это было написано для моей кампании Patreon, непрерывного спонсируемого краудфандинга, чтобы поддержать меня в написании серьезных статей, подобных этой, а также более причудливых историй об историческом использовании криков в верхнем регистре и секретах капсул времени. Вы можете стать спонсором!

Если вам интересно, есть ли реальная выгода от проверки в Твиттере, кроме заметной синей галочки, то она есть! В предпочтении временной шкалы уведомлений скрыта опция, которая раньше появлялась только для проверенных пользователей: Отфильтруйте твиты с помощью флажка, который можно установить рядом с фильтром качества.

Twitter сказал сегодня в сообщении в блоге, что включит это для всех:

Включение этого параметра фильтрует некачественный контент, например повторяющиеся твиты или контент, который кажется автоматизированным, из ваших уведомлений и других частей вашего взаимодействия с Твиттером.

Они не упомянули в своем блоге более откровенный язык, который предпочитали:

Качественная фильтрация направлена ​​на удаление из вашей временной шкалы уведомлений всех твитов, которые содержат угрозы, оскорбительные или оскорбительные выражения, дублированный контент или отправлены из подозрительных учетных записей.

Эти твиты не подавляются: вы их просто не видите. Это похоже на автоматическое отключение звука для каждого твита, а не блокировку.

Хотя Twitter открыл для всех процесс подачи заявки на подтверждение, до сих пор неясно, кто получит одобрение. Проверка началась много лет назад как способ борьбы с выдачей себя за другое лицо, чтобы можно было отличить знаменитостей и некоторых журналистов от попыток их дискредитации или манипулирования новостями или финансовыми рынками. В какой-то момент Twitter зашел в редакции всех масштабов и проверил всех сотрудников. Эта программа закончилась, и ничто не заменило ее.

Меня подтвердили в марте 2015 года после нескольких попыток связаться с командой СМИ Твиттера. Не знаю, почему в третий или четвертый раз меня одобрили. У нового, более открытого процесса все еще есть изгибы. Моя подруга Брианна Ву, разработчик игр и одна из основных целей слабо связанного с ней движения ненависти GamerGate, довольно быстро получила свою галочку. Человек, который был первым объектом нападок GG, Зои Куинн, не сделал (пока).

Вчера Эллен Пао, бывший генеральный директор Reddit, опубликовала сообщение о том, что ее проверка была отклонена из-за ее профиля и / или настроек в Twitter. Сегодня утром, когда никаких других контактов из Твиттера не было, ее проверка была одобрена.

Брианна сказала, что включила фильтр качества после утверждения и сразу увидела разницу:

Факт: я не видел ни одной угрозы смерти или изнасилования с тех пор, как прошел проверку и получил «фильтр качества». Это должно быть у всех.

Это было как раз 14 августа, когда она написала это в Твиттере!

Фильтр качества явно основан на машинном обучении. Не повторяя слишком много из того, что вы можете прочитать в другом месте, современные алгоритмы машинного обучения могут получать общие черты, от грубых до мелких, когда загружается достаточно большой корпус похожих данных: сообщения, текст статей, изображения, аудио людей, говорящих словами.

Отправной точкой нынешней техники восхождения, глубокого обучения, является обучение алгоритма корпусу. Вы говорите алгоритму, какое значение приписывать различным вещам: это глазное яблоко, это кошка, это пешеходный переход, это язык вражды. При достаточном количестве обученных входных данных алгоритм может начать делать суждения и часто имеет очень высокую степень точности.

Он также обычно может указывать на то, насколько он уверен. Таким образом, это не бинарное решение, основанное на анализе данного набора характеристик, которые оно определяет во входных данных; скорее, он может сказать вам, насколько вероятны различные вещи, на основе своей обучающей базы данных. Эти суждения тоже можно подтвердить. (Одна из больших новых областей - обучение с подкреплением, в котором автоматическая обратная связь о суждениях может быть проверена на получение некоторых результатов без участия человека для дальнейшего обучения алгоритмов.)

Один из отличных способов упростить обучение - иметь большое количество известных результатов, с которыми вы можете легко тестировать алгоритмы. В случае Twitter он не только имеет миллиарды твитов и триллионы сигналов - метаданных, журналов, временных меток и других битов, - которые он может использовать в качестве своего корпуса, но также имеет нераскрытое количество сообщений о спаме и злоупотреблениях.

Поскольку люди просматривают эти отчеты и принимают решения о результатах, Твиттер знает, когда конкретная модель сообщений о спаме или злоупотреблениях приводит к блокировке или блокировке учетной записи. По мере того, как он настраивает свою систему машинного обучения, он может проверять выводы алгоритма на основе того, что выбрали его сотрудники. (Отчеты о спаме в Твиттере почти наверняка имеют много автоматизации, которая может не требовать машинного обучения, потому что большая часть спама следует по простым шаблонам, которые идентифицируются, например, встроенным сокращенным ссылкам, указывающим на фишинговые или мошеннические страницы.)

Система, которую строит Twitter, может также, наоборот, видеть, намеренно ли используют учетные записи или группы учетных записей систему сообщений о спаме или злоупотреблениях, потому что Twitter знает «социальный граф», взаимосвязанные отношения последователей / подписок для всех своих учетных записей. Он может улучшить отчетность, присваивая оценки качества учетным записям или группам пользователей, если в этих учетных записях точно указано, как они характеризуют спам и злоупотребления.

Фильтр качества отражает проведенный Твиттером анализ того, что вам вряд ли будет интересно услышать. В статье Buzzfeed недавно было подробно рассмотрено, как ранняя и продолжающаяся культура неограниченной свободы слова в Твиттере привела к недостаточной приверженности делу устранения нежелательной речи.

Сторонники свободы слова в Твиттере ошибочно объединяют способность говорить с требованием быть услышанным. Многие меры регулирования и контроля, против которых, как сообщается, выступали внутренние аргументы, связаны с тем, что люди предпочитают не слышать сообщения других, а не блокируют публикацию нежелательных или оскорбительных высказываний в Twitter.

Асимметричный характер Твиттера заключается в том, что гораздо легче кричать, чем молчать, если только вы не заблокируете свою учетную запись или не покинете службу. Один человек может твитнуть вам 1000 раз, или 1000 человек могут постоянно твитить в адрес вас оскорбления, и нет простого способа распознать такое поведение как нежелательное. Да, вы можете заблокировать одного человека, но само поведение должно давать вам возможность выбора - даже «эй, этот человек у вас перед лицом?» - вместо того, чтобы полностью перекладывать бремя на получателей домогательств.

Я использовал стороннюю службу списков блокировки для подавления учетных записей, которые подписаны на ключевых лидеров GamerGate - это менее полезно, поскольку Адам Болдуин покинул Twitter, а Мило Яннопулос был навсегда заблокирован. Но это означало, что я не видел никаких твитов, отправленных мне от людей, которые в целом придерживались философии GG. В некоторых случаях людей захватывали, и я вручную разблокировал их.

Параметр «Фильтр качества» устраняет нежелательный слух, а не нежелательную речь. Обратите внимание, что он не запрещает кому-либо создавать твиты, хотя якобы учетные записи, которые часто публикуют сообщения, попадающие в фильтр, могут в конечном итоге получать предупреждения, блокировать или быть отключены навсегда.

Это хороший шаг вперед, но он в первую очередь предотвратит некоторые виды случайных злоупотреблений и, вероятно, в основном преследования со стороны вновь созданных учетных записей, учетных записей с низким числом подписчиков или низкокачественных подписок (например, множества одинаково не задействованных учетных записей). Он не предотвращает целенаправленные атаки или атаки, проводимые людьми с большим количеством последователей (как у Яннопулоса), которые подстрекают других людей к вашим упоминаниям.

Этого абсолютно недостаточно, потому что Твиттер может реализовать множество других простых вещей, чтобы улучшить «свободу слова», создав среду, в которой поощряется больше высказываний, а не самых громких и ужасных людей, доминирующих на форуме. Но это действительно шаг вперед.

Изначально опубликовано в моей кампании на Patreon.