Регламент GDPR набирает обороты: ОБЪЯСНИМОСТЬ И ЭТИКА В ОД/ИИ

Следующая статья является второй из немногих, основанных на моих знаниях о влиянии машинного обучения/ИИ на бизнес-стратегию, полученных в Школе менеджмента имени Слоуна MIT и MIT Computer Science and Лаборатория искусственного интеллекта (CSAIL). Первая статья о том, как начать работу с корпоративным искусственным интеллектом была широко рассмотрена и распространена, что побуждает меня погрузиться в сложную тему этики. Это помогает мне подтвердить свое понимание предмета и его влияния. Надеюсь, это будет полезно для руководителей высшего звена, которые начинают задумываться о внедрении ИИ в свои бизнес-процессы.

НАСТРОЙКА КОНТЕКСТА

Пока я пишу эти строки, генеральный директор Facebook Марк Цукерберг заканчивает двухдневные изнурительные вопросы и ответы с примерно 100 американскими законодателями о методах сбора и обмена данными Facebook и о том, как это повлияло на результаты выборов в старейшей демократии мира и снизило доверие между Facebook и его участниками. Как бы я ни пытался это обрезать, важность сбора и синтеза данных в современном бизнесе всегда будет недооценена. Facebook, Amazon, Microsoft, Google и Alibaba (FAMGA) — все предлагают свои бесплатные услуги в обмен на ваши данные. Следуя тенденции, я могу с уверенностью предсказать, что в ближайшем будущем будет больше компаний, собирающих наши данные и предлагающих нам услуги, потому что они найдут бизнес-модель, позволяющую осмысленно использовать наши данные, чтобы лучше обслуживать нас. Мы ожидаем, что эти компании будут вести себя этично при обращении с нашими данными и выводами, которые они извлекают из них. Следовательно, правила (законы) о сборе и использовании данных являются настоятельной необходимостью.

Дебаты все еще продолжаются, нужно ли критиковать генерального директора Facebook или это просто способ ведения бизнеса, когда распределенное доверие трудно контролировать. Таким образом, Facebook, возможно, все еще колеблется в отношении того, какую политику конфиденциальности и этические нормы он будет применять для своего американского населения, ни у кого нет сомнений в том, что Facebook и другие члены FAMGA сделают все необходимое для соблюдения GDPR для стран ЕС и их граждан.

ЧТО ТАКОЕ GDPR?

Общий регламент по защите данных (GDPR) — это специальный регламент ЕС, направленный на защиту данных и конфиденциальность для всех лиц в ЕС. Он должен начать работу 25 мая 2018 года.

Организации создают специальные фонды для соблюдения GDPR, поскольку штрафы за несоблюдение могут достигать 4% от годового дохода или 21 млн долларов, в зависимости от того, что больше. По сути, это означает, что небольшие компании могут выйти из бизнеса со штрафом в размере 21 миллиона долларов, а для компании с доходом в 10 миллиардов долларов штраф может составить ошеломляющие 400 миллионов долларов.

Неудивительно, что на этой неделе я и многие другие получили электронное письмо от Google Analytics обо всех элементах управления и настройках разрешений, которые они меняют, чтобы соответствовать GDPR — никто не хочет быть оштрафованным. Что меня удивило, так это то, что таких писем в наш почтовый ящик пока не так много.

ЧТО ВКЛЮЧЕНО В GDPR?

Основываясь на эпизоде ​​Facebook — Cambridge Analytica, GDPR кажется наиболее подходящей регулятивной реакцией на монополии больших технологий, которые неэтично обращаются с данными потребителей и извлекают из них выгоду без каких-либо угрызений совести. Честно говоря, GDPR предоставит всем предприятиям ЕС четкую правовую основу для правильного использования данных.

В нормативных актах есть несколько важных пунктов, о которых стоит упомянуть.

  • Определение того, что считается персональными данными, было значительно расширено, и теперь онлайн-идентификаторы, такие как IP-адреса, квалифицируются как персональные данные. Дополнительные данные, в том числе экономическая, культурная и медицинская информация, рассматриваются как личная информация.
  • Контроллеры (те, кто определяет, как и почему обрабатываются персональные данные) должны обеспечить, чтобы персональные данные обрабатывались законно, прозрачно и с четко обозначенной целью. Как только цель достигнута, теперь ее нужно удалить.
  • Контроллеры должны вести учет того, как и когда физическое лицо предоставило согласие, разрешать отзыв такого согласия в любое время и разрешать доступ к данным через разумные промежутки времени.
  • Контроллеры также должны описывать, что происходит с данными, простым языком, чтобы понимание было доступно каждому.
  • Кроме того, теперь граждане ЕС могут запросить исправление данных, если они признаны неполными или неверными, и удалить их данные, (право на забвение), если они считают, что они больше не нужны или используются для других целей. цели, для чего он был собран.

КАКОЕ БУДЕТ ВЛИЯНИЕ?

«Если вы не можете объяснить это просто, значит, вы недостаточно хорошо это понимаете».

Альберт Эйнштейн

После GDPR существует твердое убеждение, что покупка и продажа сторонних данных станут разными, и рекламодатели будут вынуждены смотреть внутрь себя, чтобы развивать свои отношения с первой стороной.

GDPR позволит контролерам данных заранее заключать более конкретные соглашения со своими партнерами по цепочке поставок, включая юридические положения для обеспечения соглашений о защите данных, в соответствии с обязательным требованием к процессорам помогать своим контролерам выполнять запросы субъектов данных и сотрудничать в случае нарушения.

GDPR предписывает право на объяснение моделей машинного обучения — это означает, что те, кто значительно пострадал от таких моделей, теперь могут запрашивать объяснение того, как модель пришла к своему решению — сказать, давать или не давать кредит человеку. В то время как эта объяснимость, безусловно, полезна для конечного потребителя, чтобы понять этические последствия обмена своими данными в системах ML, это будет очень сложно для гуру ML (и компаний, которые их нанимают), которые теперь должны убедиться, опубликовать следующее, если они готовы использовать свой алгоритм на гражданах ЕС -

а. достаточное количество технических деталей, касающихся выбора модели и процесса обучения, включая происхождение и тип набора данных, используемого для обучения.

b. понять важность модели в общедоступном развертывании — каково будет влияние ложных положительных и ложных отрицательных результатов, и задокументировать их и

в. настроить системы для информирования субъекта данных о том, почему бы не отказаться от процесса прогнозирования модели.

Скажем, вы создаете индивидуальные предложения для своих сегментов клиентов, используя алгоритмы обработки данных. Убедитесь, что вы инвестируете в интеллектуальное ведение журнала, которое объясняет автоматизированный процесс принятия решений и то, как вы получили оценки вероятности, а также какие факторы были учтены или не учтены. внимание и почему.

ЧИСТАЯ ЧИСТАЯ

Если ваша организация собирает данные о гражданах ЕС, вам необходимо быть готовым к GDPR, поскольку он определяет и усиливает защиту данных для потребителей и гармонизирует правила безопасности данных в ЕС.

Вам необходимо инвестировать в средства контроля за обработкой данных и профилированием потребителей, а также найти способы разумного объяснения автоматических решений, которые затрагивают отдельных лиц в ЕС.

Проактивный способ начать работу с этим — привлечь специалиста по этике данных в свою команду.

Допустим, вы создаете предиктивную аналитику для закупки рекламы в режиме реального времени. Теперь вам нужен корпоративный специалист по этике, который может анализировать процессы (сбор данных, обучение и прогнозирование) и гарантировать, что эти автоматизированные процессы закупки и продажи рекламы не предубеждены в пользу или против определенного сегмента компании не в пользу других.

Ибо, если это наоборот, вы можете в конечном итоге заплатить больше, чем вы заплатите специалисту по этике для начала — хуже того, вы можете потерять весь свой бизнес в ЕС.

Примечание: вот отдельная статья на Medium о потенциальных лазейках в GDPR.

Быть в курсе!

Если вам нравится то, что вы читаете, и вы хотите использовать этот контент для любой презентации, бизнес-кейса или чего-либо, что имеет для вас смысл, сообщите мне, как вы планируете его использовать. Готовы выслушать критические комментарии и конструктивные предложения.