В последнее время я много думал о персонализации. Я вижу этот термин везде. Об этом говорят маркетологи. Ученые исследуют это. Ваша бабушка пользуется им (осознает она это или нет). Быстрый поиск в Google Scholar показывает 1 700 000 результатов для персонализированного и 448 000 результатов для персонализированного. Тем не менее, несмотря на влияние отрасли и явный исследовательский интерес к ней, на удивление мало единого мнения о том, что такое персонализация машинного обучения (MLP) и какой она должна быть. Вдобавок ко всему, большая часть концептуальной работы, направленной на создание таксономии методов персонализации, была сделана в до-поведенческую эру больших данных. С тех пор многое изменилось. Целые экосистемы и бизнес-модели, основанные на сборе и обработке поведенческих данных, появились и распространились через Интернет. Шошана Зубофф много писала об извлечении личных данных и обнаружении поведенческого излишка в своей книге Surveillance Capitalism.

Почему слова, которые мы используем, имеют значение

По сути, термин персонализация напоминает о чем-то совершенно другом, чем простая настройка, адаптация или таргетинг. Настройка предлагает пользователю сделать выбор из возможных конфигураций чего-либо. Портняжное дело - это внешне физическая метафора кроя ткани, которая соответствует общей форме тела пользователя. Таргетинг имеет милитаристский оттенок и настолько универсален, что может применяться ко всему.

На мой взгляд, выбор использования любой из этих фраз неявно формирует наше понимание того, что мы делаем. Слова, которые мы используем, несут, говоря словами Майкла Поланьи, своего рода молчаливое понимание. Мы должны быть осторожны со словами, которые мы используем для описания вещей, потому что сами слова могут ограничивать и влиять на наше восприятие способами, о которых мы, возможно, не подозреваем.

С практической точки зрения, выбор правильного слова для описания явления может повлиять на направления будущих исследований и сформировать ожидания потребителей. Если вы мне не верите, то я предлагаю вам взглянуть на то, как политики используют определенные слова для того, чтобы «сформулировать» концепции и проблемы определенным образом. И «пенсия», и «социальное обеспечение» имеют один и тот же референт, но имеют разные смыслы. Какое из этих двух слов вам больше нравится? Я почти уверен, что догадываюсь.

Вот примерно идея этого сообщения:

Персонализация - это термин, наполненный смыслом. Он содержит слова «человек» и «личный». Если мы собираемся и дальше использовать это слово - с его очевидной связью с идеями человека и личностью - мы должны яснее понимать, что оно означает и каковы будут последствия такого понимания. Если мы действительно хотим сказать, что наши прогнозы или рекомендации что-то отражают о человеке, тогда нам нужно будет рассмотреть сложные темы идентичности, личности и морали.

Персонализированные прогнозы и рекомендации генерируются путем объединения информации о наблюдаемом вами поведении с определенными предположениями о вас и ваших целях, убеждениях и предпочтениях для прогнозирования очень ограниченного набора будущих действий. Но какая информация должна представлять меня как личность и с чьей точки зрения?

Краткий обзор личности в психологии, социологии и философии

Это сложные философские вопросы. Чтобы ответить, мы можем сначала спросить: Что такое человек? Но этот вопрос проблематичен, потому что личность часто определяется таким образом, чтобы оправдать определенное мировоззрение. Как отмечает философ Мария Шехтман, это слово может по-разному означать человеческое животное, моральный агент, рациональный, самосознательный субъект, обладатель определенных прав и существо с определенной личностью или характером ( Шехтман, 2018). Автор Кристиан Смит в своей книге 2011 года Что такое человек ?: Переосмысление человечности, общественной жизни и морального блага с точки зрения личности. Очевидно, эта тема чрезвычайно сложна.

Внутренняя и внешняя личность

Тем не менее, западная мысль сосредоточилась на двух общих аспектах личности, один из которых раскрывается через этимологию самого слова. Слово person происходит от латинского persona, которое происходит от древнегреческого слова, обозначающего тип маски, которую носили драматические актеры. Для древних греков представление о человеке было неразрывно связано с ролью и контекстом. Личность человека была особым видом самоидентификации, которая была публичной, социально определяемой и варьировалась в зависимости от контекста. Со временем греческая концепция, обращенная наружу, была дополнена христианским акцентом на саморефлексии и осознании, что привело к сосредоточению внимания на человеческой способности к рациональному самоанализу (Дуглас и Ней, 1998). Более поздние мыслители, такие как французский социолог Марсель Мосс, расширили представление о личности на две основные части: внешний вид публичных ролей и масок и внутреннее сознание, идентичность и сознание. Короче говоря, западная мысль обычно рассматривала личность как состоящую из двух сосуществующих внутренней и внешней областей.

Идентичность в социологии и психологии

Тем не менее, сложность внутренних и внешних аспектов личности кажется упущенной из виду теми, кто утверждает, что предсказывает наши предпочтения, потребности и желания. Исследователи машинного обучения и специалисты по обработке данных обычно занимаются проблемами «практической идентичности», то есть связыванием записей, необходимых для обеспечения того, чтобы нужный человек видел правильный контент. Но философы и социологи занимаются вопросами моральной и социальной идентичности.

Согласно теоретикам идентичности в социологии и психологии, я изменчиво и занимает несколько социальных ролей (теория идентичности) или групповых идентичностей (теория социальной идентичности), которые сосуществуют и меняются с течением времени. Динамизм самооценки отражается в ее многочисленных субкомпонентах или самопредставлениях: прошлое, настоящее и будущее я; идеальное, должное, актуальное, возможное и нежелательное я (Маркус и Вурф, 1987).

Теоретики идентичности подчеркивают, как единое представление о себе возникает из разнообразия значений, которые придают различным социальным ролям, которые занимает само я (Страйкер
и Берк, 2000). Общие типы социальной идентичности связаны с этнической принадлежностью, религией, политической принадлежностью, работой и отношениями. Люди также могут сильно отождествлять себя со своим полом, сексуальной ориентацией и различными другими стигматизированными идентичностями, такими как бездомность, алкоголизм или избыточный вес (Deux, 1993; Ellemers et al., 2002). Короче говоря, социальные психологи в целом согласны с тем, что самооценка человека является одним из важнейших регуляторов поведения.

(Социальная) идентичность в философии

Как философы понимают связь между идентичностью и самостью? Для некоторых, таких как Поль Рикер, я возникает из идентификации структурного сходства во времени, воспринимаемого как своего рода повествование (Ricoeur, 1994). Хотя отдельные клетки нашего тела постоянно обновляются, основная структура человека, тем не менее, остается достаточно похожей, чтобы ее можно было идентифицировать как одну и ту же с течением времени.

Для других, таких как Чарльз Тейлор, социальная и общинная жизнь связывают эти два понятия. Тейлор утверждает, что личность человека связана с его моральными ценностями и определяющим социальным сообществом. В своей влиятельной книге 1989 года Источники Самости он пишет:

Я определяю, кем я являюсь, определяя, откуда я говорю: в генеалогическом древе, в социальном пространстве, в географии социальных статусов и функций, в моих интимных отношениях с теми, кого я люблю, а также, что особенно важно, в пространстве морального и духовного ориентация, в которой живут мои самые важные определяющие отношения.

Короче говоря, наша идентичность основана на постоянном взаимодействии между тем, как другие видят нас, и тем, как мы видим себя. Эти «общинные» идентичности влекут за собой различные моральные обязательства перед другими, которые влияют на наше поведение и мотивируют его. Когда MLP односторонне приписывает нам «идентичность», она не учитывает множество наших аспектов, которые как личности важны для нас. Мы можем оставить то, что осталось, как идеал, к которому MLP, серьезно относящийся к человеку, может стремиться к нему. Назовем это идеалом расширенной персонализации машинного обучения.

Нам необходимо изучить, как люди и личные данные связаны с MLP

В недавнем и гораздо более длинном сообщении в блоге я подробно обсудил, как связаны личные данные и люди, а также стоящие за ними метафизические взгляды. В этом коротком посте я хотел бы рассмотреть три основных аспекта MLP, которые часто неправильно понимают. Почему это вообще имеет значение, спросите вы? Что ж, одна очевидная причина заключается в том, что Общие правила защиты данных (GDPR) предоставляют субъектам данных права в отношении их личных данных и их способность запрашивать объяснения по поводу алгоритмического принятия решений. Во-вторых, маркетологи и компании могут не понимать, как они могут следовать просвещенной стратегии управления отношениями с клиентами или соревноваться в персонализации. И в-третьих, возможно, вы просто обеспокоенный гражданин Интернета и слышали, что ИИ и машинное обучение каким-то образом разрушают нашу способность к свободе воли.

Теперь, когда мы немного изучили, что делает человека личностью, мы можем перейти к рассмотрению того, чего не хватает MLP и где люди обычно неправильно понимают его применение. В моей статье здесь обсуждаются три наиболее распространенных мифа о MLP, с которыми я сталкиваюсь.