Распространение ложной информации очень сильно. Особенно сейчас, потому что информация распространяется быстро. Российское правительство активно распространяет ложную информацию о Швеции, Украине и Сирии. По словам Нила МакФаркуара из The New York Times, это использование военной информации вместо оружия и бомб для распространения разногласий и хаоса. В преднамеренном распространении ложных историй нет ничего нового. Это делает правительство Соединенных Штатов. Канье Уэст делает это. Дональд Трамп. Почти любой голливудский публицист, которого я когда-либо встречал. Но все таки.
Происходит что-то другое, нечто большее, более глубокое, более быстрое, машинное и потому более банальное и даже более опасное. Дезинформация распространяется тупыми машинами, управляемыми умными людьми. Да, плохо настроенный ИИ — ваш новый редактор новостей.
Facebook попал в неприятную ситуацию из-за того, что уволил целую команду подрядчиков, ответственных за курирование раздела Популярные новости. Facebook, который хочет как можно скорее стать нашим новостным властелином, экспериментировал с автоматизацией раздела В тренде. В пресс-релизе говорится, что от людей больше не требуется писать описания популярных тем.
Бросить людей? Большая катастрофа. Вы получаете крушение поезда машинного обучения.
Новости Facebook в трендах продвигали ложную историю о Мегин Келли, а также историю о мужчине, занимающемся сексом с бутербродом McChicken. (Я давал вам ссылки, но тогда вы просто щелкали мышью. Поищите их позже.) Идея, которая не сработала, заключалась в том, чтобы избавиться от предвзятости, уменьшив человеческий контроль над тем, что было в ленте трендов. . Дело пошло еще глубже, потому что Facebook использовал журналистов-людей в качестве временной меры. Подрядчики должны были быть наняты ровно столько, чтобы обучить машину, чтобы она могла взять на себя управление. Выяснилось, что машина не могла очень хорошо выбирать новости, а инженеры, которые следили за машиной, не могли распознать ложную новость, когда она появлялась. Урок? Вы не можете поменять журналистов на инженеров, потому что знание предметной области чего-то стоит. Инженеры сосредоточились на создании алгоритма, достаточно умного, чтобы собрать достаточное количество статей и сообщений, чтобы обозначить тенденцию — ну, это просто недостаточно умно. Вам нужно обнаружение розыгрыша, обнаружение сатиры, обнаружение чуши, обнаружение откровенной проклятой лжи, и для этого пока нет алгоритма. (Обычные люди тоже не так хороши в такого рода обнаружении.)
Машинное обучение или искусственный интеллект скоро будут управлять многими вещами, но не на следующей неделе. Автоматизированная курация добилась успеха — вы можете сослаться на развертывание Моментов в Твиттере, которое группирует сообщения Твиттера в нечто, напоминающее повествование, такие приложения, как Blendle, неплохо справляются со сбором интересных новостей, а Apple News Приложение не совсем ужасное, но довольно близкое к ужасному.
Автоматизировать написание текстов, даже автоматизировать заголовки, — непростая задача, потому что писать сложно. (Да.) Есть нюансы, навыки и опыт, которые находятся за пределами компетенции инженеров, которым поручено писать алгоритмы, которые должны выполнить задачу. Извините, инженеры, я благодарен за вашу неудачу, хотя бы временную, потому что это дает нам все время, чтобы наслаждаться блогами, которые пишут люди в конце долгого рабочего дня. Ура опечатки.
Научить машины писать и курировать кажется почти невозможным, но уже есть несколько проблесков успеха. У AP есть бот, который пишет истории о бейсболе низшей лиги. Есть бот, который берет ваши данные и превращает их в описание товара. Газета Нью-Йорк Таймс экспериментирует с ботом, который пишет хайку на основе новостей. Звучит довольно очаровательно, пока вы не обнаружите, что хайку вроде этого:
Он посоветовал студентам
получить дипломы и поделился
своей мечтой о побеге.
…из истории об убийстве рэпера в Балтиморе. Не то, что вы могли ожидать, когда читали это стихотворение, а? Бот пока не может этого понять. Но ждать.
Странно, как рутинные задачи по созданию газетных заголовков и названий сообщений в блогах могут зайти так далеко. Проблема начинается с людей, которым поручено программирование: вы не можете просто поменять журналистов на инженеров, как это сделал Facebook, и ожидать, что инженеры запрограммируют что-то подходящее для журналистики. Вы заставляете людей заниматься сексом с бутербродами и ложными историями об увольнении Мегин Келли. Почему? Потому что умные люди склонны быть умными в своей области. Хотя программное обеспечение поглощает мир, ошибочно полагать, что все можно запрограммировать, по крайней мере, пока. Язык еще слишком загадочен для этого. Сегодня. Сейчас. Обратный отсчет начался. Но ждать. Так долго не будет.
