Разрешительный маркетинг не новость. Но принципами маркетинга по подписке часто злоупотребляют. ИИ будет противодействовать растущей напряженности в отношении конфиденциальности и использования личных данных.
Прежде чем обсуждать влияние ИИ на использование личных данных, полезно проанализировать текущее состояние этики конфиденциальности. Кризис Cambridge Analytica вращался вокруг использования данных людей, особенно их сетей друзей. На самом деле, они использовали бесплатную социальную сеть Facebook с подпиской, которая позволяла Facebook продавать свои пользовательские данные. Мелкий шрифт в четыре абзаца ниже в политике пользователя ускользает от большинства пользователей.
При этом использование данных было вопиющим, подрывая доверие во многих странах. Хотя крайний пример оскорбляет, происходят также тысячи неизвестных нарушений; они просто не были разоблачены.
Поскольку маркетологи социальных сетей постоянно злоупотребляют данными на основе разрешений, большинство потребителей больше не доверяют всему, что они читают или видят в Интернете. Опрос, проведенный в мае 2018 года компанией Lincoln Park Strategies and RAD Campaign, выявил некоторые удивительные данные об использовании онлайн-данных американцами:
73% считают, что компании, работающие в социальных сетях, собирают и продают их данные.
74% не читают и не просматривают условия использования социальных сетей
75% американцев считают, что их данные отслеживаются с помощью файлов cookie без их согласия.
58% считают, что домашние умные колонки собирают данные
Новые европейские правила использования данных компаниями - GDPR - пытаются исправить некоторые проблемы, вынуждая компании, ведущие бизнес в Европе, получить полное согласие на сбор данных и уведомление пользователей об утечках данных. Многие американские компании соблюдают GDPR для защиты международных клиентов, используя подсказки на своих сайтах, разрешающие файлы cookie.
Исследование Lincoln Park Strategies / RAD Campaign демонстрирует, что большинство американцев откажутся от этого согласия на использование услуг независимо от использования данных. Однако они предполагают, что их данные используются для их эксплуатации.
ИИ только усложняет ситуацию тем, что ботов развертывают для поиска зеркальных аудиторий и реализации широкого спектра автоматизированных коммуникационных услуг - от электронной почты и текстовых сообщений до всплывающих окон и чат-ботов - для привлечения клиентов. Дальнейшие сегменты клиентов сопоставлялись с более массивными базами данных похожих клиентов, чтобы генерировать новых бизнес-потенциальных клиентов.
Поскольку данные о клиентах широко распространены и используются в Интернете посредством случайных политик подписки, многие люди получают нежелательные сообщения от компаний, с которыми они никогда не взаимодействовали. Обычно это происходит в форме рекламы и спама, но может включать и другие методы, такие как роботизированные звонки. Благодаря ИИ мы наблюдаем резкий рост этого вида деятельности.
Как ИИ бросит моральное зеркало компаниям
Использование ИИ подобным образом сопряжено с множеством опасностей. Предубеждения в отношении данных и разработчиков, которые могут помешать некоторым сегментам клиентов пользоваться услугами, будут по-прежнему создавать моральный и этический кризис для компаний. Безусловно, непредвиденные данные и предвзятость алгоритмов могут изображать бренды как предвзятые или политически мотивированные.
Кроме того, компании будут нести основную тяжесть беспокойства потребителей. Неважно, что они использовали программы машинного обучения только для улучшения своего бизнеса. Клиенты предполагают, что они проверяют свои данные и использование ИИ, а если нет, то бренд подрывает доверие.
Большинство маркетологов интегрируют программы машинного обучения, предлагаемые третьими сторонами, на основе обещаний поставщиков и прошлых результатов. Приобретая базу данных или алгоритм, маркетинговый стратег предполагает, что она чистая. Потребители не позволят возложить вину за возникшую проблему на стороннюю технологическую компанию, даже если это Google или Facebook.
В отчете Forrester Этика искусственного интеллекта: как избежать вредной предвзятости и дискриминации были рассмотрены проблемы, с которыми сталкивается предвзятость, и сделаны этические выводы, которые должен знать каждый маркетолог. Нельзя полагаться на правительства в создании эффективных правил защиты онлайн-данных. Вместо этого потребители будут рассчитывать на то, что корпорации станут хорошими или плохими арбитрами данных. В результате, когда утечка данных, предвзятость или другая форма использования данных происходит из-за ИИ, бренд оказывается запятнанным.
Автор отчета Forrester Ethics of AI Брэндон Перселл пишет: «Так же, как FICO не несет ответственности, когда потребитель ставит под сомнение решение банка отказать ему в кредите, так и Amazon, Google и другие поставщики обученных моделей машинного обучения не будут нести ответственности за как другие компании используют свои модели. Вместо этого сами компании, как интеграторы этих моделей, несут на себе последствия неэтичной практики ».
Проверка ИИ и решений для обработки данных для обеспечения надежной реализации потребует от отделов маркетинга углубить свои процессы проверки. Во многих отношениях, хотя поставщик может дать хороший ответ, самому бренду необходимо будет проверить целостность алгоритма на предмет предвзятости. Это требует от брендов наличия или доступа к специалистам по качественным данным для обеспечения качества.
Некоторые могут посчитать это личным предубеждением, но после более чем 20-летнего опыта работы в сфере маркетинга я искренне сомневаюсь, что подавляющее большинство брендов будут так поступать. Хотя мы, как профессионалы, много говорим об этике и передовом опыте, большинство из них не использует или не может мобилизовать внутренние ресурсы, поддержку или знания для защиты своих компаний от нарушений, вызванных машинным обучением.
В результате многие бренды получат то, что Брэндон Перселл называет моральным зеркалом, которое будет показывать им и их клиентам неосознанные предубеждения их бизнеса. К сожалению, эти вызовы будут вынесены на всеобщее обозрение, что почти наверняка приведет к кризису в худших случаях. Моральное зеркало станет Черным зеркалом.
Маркетологи и их руководители должны пересмотреть свои антикризисные PR-планы. В частности, маркетологи должны разработать руководящие принципы для нежелательных явлений, связанных с ИИ, в частности, способность решать проблему использования данных или предвзятости таким образом, чтобы удовлетворить клиентов.
