Роль фактов и ценностей в науке, войны в Твиттере и то, как наука о данных рискует разделиться на две культуры из-за этических заявлений

В своей лекции 1917 года Наука как призвание немецкий социолог Макс Вебер утверждал, что вопросы фактов отделены от вопросов ценности. Учитывая заранее определенные цели, задача науки состоит в том, чтобы найти наилучшие средства для их достижения. Но вопрос о том, каких целей нужно достичь в первую очередь, - это вопрос ценностей, на который должным образом ответит только философия или религия. В этом отношении Вебер был не одинок. Выдающиеся ученые и математики, такие как Анри Пуанкаре, придерживались схожих взглядов на несоизмеримость науки и ценностей. В этом посте исследуется (не) правдоподобие распространения этой идеи на науку о данных.

Я считаю, что развивающаяся область науки о данных рискует разделиться на две противостоящие фракции, основанные на конфликтующих философиях науки. Один поддерживает - неявно или явно - идею о том, что факты есть и должны храниться отдельно от ценностей (которые сами по себе являются выражением ценности!). Назовем их атомистами. Другой продвигает точку зрения - явно или неявно, - что факты и ценности неотделимы друг от друга и должны быть неотделимы друг от друга. Назовем их холистами.

Проблема в следующем: когда идейные лидеры и авторитетные ученые цепляются за атомистскую философию науки о данных, науку о данных qua науку, существует риск изолировать себя как от других дисциплин, так и от общества в целом. Обладая небольшим опытом работы над проблемами, имеющими отношение к обществу, следующее поколение специалистов по обработке данных будет обучено сосредоточиться на приложениях и методах, соответствующих потребностям бизнеса (например, оптимизация рекламы), а не на социальном благе (например, профилактика заболеваний, предоставление общественных благ и т. Д.) или, говоря словами философа Поля Рикера, достижение хорошей жизни с другими и для других в справедливых учреждениях).

Если атомизм возьмет верх над духом этой области, наука о данных рискует быть рассмотренной общественностью так, как сегодня рассматривается ядерная энергетика: потенциально очень полезно, но в конечном итоге слишком опасно, чтобы быть практичным. Возможно, даже будет что-то вроде движения NIMBY для общедоступных приложений машинного обучения. Для борьбы с этим область науки о данных может позаимствовать ключевые принципы качественного исследования, которые я рассмотрю в конце.

Специалисты по анализу данных как создатели инструментов, не зависящие от ценности

В 1959 году, в разгар холодной войны и по мере утверждения военно-промышленного комплекса США, британский ученый и писатель К. Сноу характеризовал общее мнение практикующих ученых. На вопрос о роли ученого в обществе Сноу представил, как ученый говорит:

Производим инструменты. Мы останавливаемся на этом. Вам - остальному миру, политикам - решать, как используются эти инструменты. Инструменты могут использоваться для целей, которые большинство из нас сочли бы плохими. Если так, то нам очень жаль. Но, как ученых, это не касается нас.

Мы можем представить, что аналитик данных в 2021 году скажет нечто подобное:

Мы производим алгоритмические инструменты, которые увеличивают количество кликов. На этом мы останавливаемся (после публикации наших результатов в технических журналах, не предназначенных для непрофессионалов). Вам - остальному миру - решать, как следует использовать алгоритмические инструменты, которые увеличивают количество кликов. Алгоритмические инструменты, увеличивающие количество кликов, могут быть использованы для целей, которые большинство из нас сочли бы плохими (например, политическая поляризация, радикализация или зависимость молодежи от социальных сетей). Если это так, нам очень жаль. Но как исследователей данных это не касается нас.

Разделение фактов и ценностей: дисциплинарные разногласия

Идея о том, что факты и ценности независимы - и должны оставаться такими - имеет долгую историю в академических кругах, особенно в точных науках: физике, инженерии, информатике и математике. Типичный ученый, действующий в период нормальной науки, по словам Томаса Куна, просто решает головоломки.

Роль ученого заключается в том, чтобы действовать как рациональный и компетентный оптимизатор заранее определенной целевой функции, определенной в его области исследования. Ученый действует в соответствии с парадигмой, продиктованной ей более широким сообществом ученых, со своей собственной онтологией, эпистемологией и методологией. Но требует ли научная парадигма также аксиологии: системы ценностей, объясняющей, почему одни методы лучше других или почему одна таксономия лучше другой? Или такие вопросы бессмысленны, вне рамок самой науки?

По крайней мере, в течение короткого периода в 1940-х и 50-х годах, после того, как мы стали свидетелями разрушительной силы атомной бомбы, различие между фактами и ценностями, казалось, подвергалось критике со стороны выдающихся ученых. Дж. Роберт Оппенгеймер, Альберт Эйнштейн и Норберт Винер выразили известную моральную озабоченность своей научной ролью в создании такого устройства. Но идея науки, свободной от ценностей, и, соответственно, нейтрального по отношению к ценностям ученого, сохраняется и по сей день, особенно в академических областях, где студенты практически не знакомятся с идеями в области гуманитарных наук, социологии и философии.

Подобная идея пронизывает основы искусственного интеллекта. Лауреат Нобелевской премии и символический пионер искусственного интеллекта Герберт Саймон в своей книге 1983 года Причина в человеческих делах объясняет:

Разум полностью играет важную роль. Он не может сказать нам, куда идти; в лучшем случае он может сказать нам, как туда добраться. Это наемное оружие, которое можно использовать для любых наших целей, хороших или плохих.

Бюрократическая наука и разделение души

Вера в различие между фактом и ценностью является проявлением гораздо более глубокого симптома западного мышления. Вебер, воображаемый ученый Сноу, и точка зрения Саймона отражают более широкую тенденцию современных либеральных демократий к бюрократизации. Бюрократизация описывает общество, в котором разделение умственного, морального и физического труда все больше разбивается на все более мелкие фрагменты во имя эффективности и компетентности.

В конце 19 века этот сифилитический дедушка постмодернизма Фридрих Ницше провозгласил известное заявление о том, что Бог мертв. Традиционные источники ценностей, которые руководят человеческими целями и придают смысл общественной жизни , перестали быть жизнеспособными. Экономическая логика рынков вытеснила культурные и религиозные ценности и удалила из картины вопросы телеологии, ценностей или целей. Понятия полезности заменили вопросы морального блага. В 20-м веке экономист Фридрих Хайек особенно выступал против рассуждения социализма сверху вниз в пользу коннекционистского «роевого интеллекта» рынков при распределении товаров и передаче информации о ценах. Телеология была чушью в постиндустриальную эпоху. Наблюдаемые аспекты космоса нельзя объяснить ничем иным, как случайными столкновениями идентичных частиц, следующих универсальным законам природы.

Карл Маркс, осуждая этот процесс индустриализации и глобализации, утверждал, что он ведет к отчуждению; для социолога Эмиля Дюркгейма этот процесс приводит к аномии. Маркс рассматривал зарождающуюся рыночную идеологию индустриализирующегося Запада как отрыв людей от их сущностной природы как социальных, творческих и выразительных существ. Маркс, конечно, позаимствовал у Гегеля телеологический взгляд на науку и человеческий разум. И хотя он настаивал на непреодолимом разделении между фактами и ценностями, Вебер сетовал на эту тенденцию к ограниченности и отказу от моральной ответственности за техническую компетенцию как на «разделение души на отдельные части». Без корректировки курса академическая наука о данных продолжит эту тенденцию.

Ральф Уолдо Эмерсон резюмирует этот процесс разделения академика в своей классической речи 1837 года Американский ученый:

… Человек не фермер, не профессор или инженер, но он все. Человек и священник, и ученый, и государственный деятель, и производитель, и солдат. В разделенном или социальном государстве эти функции разделены между людьми, каждый из которых стремится выполнять свою часть совместной работы, в то время как друг друга выполняет свою ... Состояние общества - это такое состояние, в котором члены пострадали от ампутации туловища. и расхаживают вокруг стольких ходячих чудовищ - здорового пальца, шеи, живота, локтя, но никогда человека.

Несмотря на эту критику со стороны Маркса, Эмерсона, Сноу и других, сторонники этой философии науки могли защищать ее обоснованность на основе ее практических успехов с точки зрения технологических приложений. В конце концов, посмотрите, как далеко мы зашли! Это могло быть разумным аргументом, если бы эти технологии оставались ограниченными залами исследовательского университета. Но сейчас ИИ / машинное обучение - это коммерциализированные технологии, влияющие на нашу повседневную жизнь бесчисленными способами, от онлайн-покупок и кредитного рейтинга до алгоритмической торговли, полицейского контроля, решений об условно-досрочном освобождении и вынесения приговоров, вождения, онлайн-свиданий и общения, и все чаще военного применения.

Пришло время принять на себя ответственность за применение и эффекты своих творений.

Натуралистическая ошибка?

Подождите, а разве вы не пытаетесь вывести должен и должен? Разве вы в основном не описываете, как используются эти технологии, а затем пытаетесь утверждать, что это описание подразумевает или требует рецепта - как эти технологии должны быть построенным. Да, я. Факты действительно информируют ценности, и наоборот: ценности информируют факты. В этом Юм ошибался.

Количество смертей, связанных с огнестрельным оружием, должно указывать на политику в отношении оружия (возрастные ограничения, предохранительные устройства, прямые запреты), данные о состоянии здоровья должны указывать на политику в отношении курения и питания, данные о авиакатастрофах должны информировать о политике безопасности самолетов (улучшенные автопилоты, предполетные контрольные списки), смертельные пожары должны информировать архитектурный дизайн (требуются аварийные выходы), данные о дорожно-транспортных происшествиях должны информировать дизайн автомобиля (например, ремни безопасности, мотоциклетные шлемы, гладкие приборные панели и рулевые колеса, спасибо Ralph Nader!).

Возможно, что более спорно, результаты эмпирических социальных наук, психологии и нейробиологии о человеческом благополучии должны использоваться в государственной политике, а не храниться в тайных академических журналах, доступных только избранным. Это освободительный аспект науки, отстаиваемый такими философами, как Рой Бхаскар и Юрген Хабермас. Показательный пример: посмотрите, как правительство Бутана сосредоточилось на валовом национальном счастье, а не на ВВП (спасибо Боазу Шмуели).

Факты и ценности взаимозависимы.

Без доступа к фактам мы не можем даже начать формировать наши ценности вокруг того, что важно защищать. И наоборот, наши ценности служат для того, чтобы направлять наше внимание на соответствующие факты: если бы мы не ценили человеческую жизнь, мы бы вообще не собирали статистику огнестрельных смертей или информацию о авиакатастрофах. Иммануил Кант однажды сказал нечто подобное: Мысли без содержания пусты, интуиция без концепций слепа.

Культурные войны в науке о данных: Twitter и NeurIPS

Сам Twitter является свидетельством перспектив и опасности цифровых технологий и алгоритмов, вытесняющих традиционное личное общение. Жесты, тона голоса и бесчисленные контекстные детали заменяются сообщениями и поведением небольшого размера. Согласование значения этих цифровых «поведенческих укусов» сложно, поскольку их абстрактность и цифровая постоянство очень затрудняют согласование значений в реальном времени. То, что сказано один раз, остается навсегда, ограничиваясь только емкостью цифрового хранилища.

Вышеизложенные идеи стоит рассмотреть еще раз в свете двух недавних событий в сообществе AI / ML. Первый касается войны в Твиттере с участием уважаемого профессора Вашингтонского университета Педро Домингос после того, как он пожаловался в Твиттере на новые заявления о влиянии этики NeurIPS, требуемые конференцией. Вторым, конечно же, было увольнение Тимнит Гебру Google.

Я сосредотачиваюсь на Домингосе, поскольку его взгляды на науку и этику, вероятно, разделяют многие в AI / ML. См. Открытое письмо, подписанное несколькими исследователями к Сообщениям ACM.

В конце концов, комментарии Домингоса привели к тому, что многие в Твиттере атаковали его в сообществе по этике AI / ML, и «разговор» быстро перерос в то, что вы видите ниже:

Нам нужно говорить о науке и ценностях

Я здесь не для того, чтобы защищать или аплодировать комментариям Домингоса или тех, кто был вовлечен в последовавшую войну в Твиттере - я не согласен с Домингосом по этому конкретному вопросу, - но я действительно думаю, что он делает веский аргумент, который необходимо рассмотреть, не прибегая к рекламе. hominem нападает или эмоционально призывает «отменить» его и его вклад в науку о данных. Его комментарий следует рассмотреть подробно, потому что в противном случае наука о данных рискует разделиться на две культуры: в одной из них нет ответа на важные и важные вопросы (лагерь атомистов), а во второй - они (лагерь холистов).

Чтобы очертить круг аргументов ниже, позвольте мне сначала дать приблизительное рабочее определение того, что я имею в виду под специалистом по данным. Я имею в виду человека, чья должностная инструкция включает некоторую ответственность за получение новых и систематических, обобщаемых знаний, обычно в форме опубликованных исследовательских статей в рецензируемых журналах . Это определение, вероятно, исключает многих в отрасли, которые в настоящее время имеют звание «специалистов по данным», чья повседневная работа включает решение конкретных бизнес-задач, построение конвейеров данных и информационных панелей с использованием инструментов и методов науки о данных и машинного обучения.

Рискну предположить, что очень немногие люди без докторской степени могут публиковаться на рецензируемых конференциях, таких как NeurIPS, или в таких журналах, как Journal of Machine Learning Research (JMLR).

Откуда взялась современная идея «свободной от ценностей» науки?

Согласно философу науки Хью Лейси, идея науки, свободной от ценностей, восходит, по крайней мере, к индуктивному эмпиризму Фрэнсиса Бэкона и Галилея. Со своей стороны, Бэкон, эмпирик, основанный на чувствах, предостерег нас от слепой передачи ключей к нашим врожденным когнитивным предубеждениям или идолам разума, в то время как Галилей настаивал на том, что факты природы глухи и неумолимы для восприятия. наши пожелания ».

Эксперименты и вмешательство в природу были ключевыми инструментами в арсенале эмпирика. Накопление все больших объемов чувственных данных (дополненных, конечно, усовершенствованием инструментов, таких как микроскопы, телескопы и т. Д.) Стало моделью прогресса в науке. Мы видим эту тенденцию к механическому сбору и классификации данных в одержимости Просвещением таксономиями и энциклопедиями.

Сегодня зацикленность на постоянно растущих объемах «больших данных» продолжается, по иронии судьбы, даже несмотря на то, что ML-подполе репрезентативного обучения все больше напоминает пифагорейскую, вдохновленную математикой метафизику с разговорами о симметрии, инвариантности, простоте и Римановы многообразия. Платон и, возможно, даже Кант станут проницательными соавторами вместе с Йошуа Бенжио, Яном ЛеКуном и другими. Но я отвлекся.

Остатки и предположения логического позитивизма

Эмпиризм Бэкона и Галилея возродится в 20 веке под именем логического эмпиризма (или логического позитивизма). Логические позитивисты во главе с философом-логиком Рудольфом Карнапом пытались систематически строить основы науки на (пожалуйста барабанной дроби)… логике.

Философия бескорыстно позиционировала себя как царица наук, в то время как математика была ее королем. Философы выделили обычные языковые требования «специальных» наук (например, физики, экономики, социальных наук и т. Д.) В объединяющий язык символической логики, структура которой отражала соответствие реальности (так называемая «теория изображений» Витгенштейна. имея в виду).

Все, что не вписывалось в эту «картину», например, метафизика или этические ценности, считалось бессмыслицей - в конце концов, не было ничего, что этическим ценностям «отображать» в реальном мире, независимо от человеческого существования. Позитивисты утверждали, что даже допуская существование таких отображений, они никогда не могут быть проверены или подтверждены эмпирическими исследованиями.

Таким образом, наука (лат. Scientia, что означает знание) заключалась в уточнении этой ограниченной, но строгой картины таким образом, чтобы в пределе и с помощью методов эмпирической науки она в конечном итоге отражала природу. само по себе, делая излишней потребность в «изображении» природы. После раскрытия и организации в соответствии с его аксиомами операций символической логики можно было применять, и новые, проверяемые гипотезы могли быть подвергнуты эмпирическому подтверждению, и можно было гарантировать несомненные основы всего научного знания. По крайней мере, это было мечтой Венского кружка.

Философ и логик Хилари Патнэм объясняет в своей статье 1983 года Объективность и различие между наукой и этикой, как эта философия науки быстро распространилась на другие области, связанные с аксиоматическими теоретическими моделями (например, экономику):

Логические позитивисты отстаивали резкую дихотомию фактов и ценностей очень простым способом: научные утверждения (вне логики и чистой математики), по их словам, «эмпирически проверяемы», а оценочные суждения «непроверяемы». Этот аргумент по-прежнему широко используется экономистами (не говоря уже о непрофессионалах), хотя в течение нескольких лет философы считали его наивным.

Где прав Домингос: страх догматизма

Хотя комментарии Домингоса преувеличены, они не беспочвенны. Есть веские причины скептически относиться к включению этических и социальных ценностей в качестве критериев для определения того, что считается научным исследованием.

Известно, что советская наука находилась под влиянием своей интерпретации марксистской философии. Все, что не соответствовало советской интерпретации диалектического материализма, воспринималось с подозрением. Точно так же дарвиновская эволюция на какое-то время затмила крестовый поход Лысенко против генетики. И, конечно, мы не можем забыть, как Галилей был вынужден отказаться от своей поддержки коперниканизма во время инквизиции католической церкви. Все это реальные примеры того, как слепая приверженность догматизму тормозила научный прогресс.

Но догматизм идет и по другому пути. Утверждая свой явно свободный от ценностей характер, наука использовалась для оправдания колониализма, рабства, геноцида и даже мировых войн. Сама концепция расы возникла вместе с институтом и практикой современной науки с ее иерархией рас и классификацией людей в отдельные расовые группы на основе предполагаемых фенотипических и генотипических маркеров (френология, кто-нибудь?) . Идея индуктивной науки без теории, популяризированная Бэконом, а затем Фрэнсисом Гальтоном и его учеником Карлом Пирсоном, использовалась для поддержки расистской и евгенической политики, включая принудительную кастрацию и стерилизацию так называемого выродившегося народа.

Без этики, руководящей наукой, нацистские эксперименты на людях, советские ядовитые лаборатории, японские эксперименты на людях над китайскими заключенными, американские эксперименты по воздействию атомной радиации на своих солдат и эксперименты с сифилисом в Таскиги все еще можно было бы рассматривать как приемлемые среди бесчисленных других нарушений закона. основные права человека, которые мы ценим сегодня. Фактически, сегодня у нас есть эти права благодаря нашим знаниям о том, что одни готовы делать с другими в якобы преследовании свободной от ценностей «науки».

Для тех, кто проводил эти «научные» эксперименты, их научные суждения, конечно же, не основывались на вещах, как бессмысленные «ценности», а были просто простыми и очевидными фактами природы, самоочевидными для любого, кто хотел бы выглядеть должным образом. Для них наука действительно была бесплатной. Как сказал Галилей, факты природы «глухи и неумолимы для наших желаний». Сама природа просто создала разные расы людей в иерархическом масштабе: они были «естественными видами», открытыми путем вырезания природы на ее стыках.

Вы действительно думаете, что их наука была свободной от ценностей, или вы думаете, что они просто были слепы к своим собственным предрассудкам и популярным убеждениям того времени? Как вы думаете, возможно, те, кто считал рабство морально неправильным, считались «предвзятыми», видя мир через очки, окрашенные их моральными убеждениями и ценностями?

Преимущества поощрения заявлений о влиянии на этику в публикациях AI / ML

Если «лагерь атомистов» Домингоса проиграет, и мы действительно увидим эту тенденцию этических заявлений в исследовательских публикациях AI / ML, как это может повлиять на дисциплину и общество в целом? Ниже я описываю несколько потенциальных эффектов.

Заявления о воздействии на этические нормы могут помочь:

  1. Поощряйте широкое и целостное - вместо узкого и атомистического - мышления исследователей машинного обучения. Это может разрушить междисциплинарные академические барьеры и микро-ниши, которые в настоящее время изолируют исследователей от публичных дебатов, касающихся технологий и приложений на основе машинного обучения. Если общественное мнение об AI / ML основано исключительно на Социальной дилемме Netflix, это плохой знак.
  2. Уменьшите вероятность неуместных, вредных исследований и потраченных впустую математических способностей. Джефф Хаммербахер, один из первых специалистов по обработке данных в Facebook, однажды сказал: Лучшие умы моего поколения думают о том, как заставить людей нажимать на рекламу… Это отстой. Если очевидно, что определенные технологии постоянно используются во вредных целях (подрыв личной автономии и демократии, рост самоубийств и депрессии и т. д.), зачем продолжать вкладывать в них деньги, время и академическую подготовку? Что, если бы молодые специалисты по данным использовали свои знания в области программирования и статистики для достижения прогресса в физике, биологии или разработке исследований вакцин вместо оптимизации размещения рекламы? Посмотрите видео Синтии Рудин о Имплозии ML, чтобы посмотреть немного под другим углом.
  3. Стимулируйте междисциплинарное сотрудничество. Почему бы не привлечь философа, который поможет представить этические последствия вашего алгоритма? Кто знает, это может даже привести к новым подходам и перспективам за счет заимствования идей из других областей. Хотя я не ожидаю, что исследователи машинного обучения внезапно превратятся в Аристотеля, Канта и Бентамса в одночасье, обществу было бы лучше, если бы они попытались по крайней мере реализовать идеи из гуманитарных и смежных дисциплин.
  4. Повышение вовлеченности заинтересованных сторон. Обратитесь к различным заинтересованным сторонам в обществе и объясните понятным и простым языком, что делает ваш алгоритм, как он работает, и спросите их, как он может на них повлиять. Ваша бабушка заботится о том, какие новости появляются в ее ленте новостей на Facebook? Недавнее политическое насилие в США подчеркивает важность понимания того, как ложная информация распространяется алгоритмами в социальных сетях. Путем включения положений этики академические исследования машинного обучения могут стать более доступными и важными для неспециалистов и заинтересованных граждан.
  5. Вдохновляйте новые проекты Наука о данных для социального блага и дискуссии о социальном благе. Здесь идеи философов Джон Дьюи и Юрген Хабермас могут обеспечить полезную основу для развития демократических принципов публичных дебатов и свободы слова, основанных на правах личности, которые могут быть использованы для содействия открытому и справедливому обсуждению того, какие блага ) преследовать и зачем, не прибегая к язвительным обзываниям.

Что наука о данных может извлечь из качественных исследований

В этом последнем разделе я расскажу о некоторых способах, которыми наука о данных может извлечь выгоду из более инклюзивного объема исследований, в котором одинаково серьезно относятся к фактам и ценностям. Имейте в виду, что по какой-то причине качественные исследования в области социальных наук идут в ногу с развитием философии науки, в то время как количественные социальные науки почему-то не идут. Частично это означает постоянный отказ признать роль человеческого сознания и субъективности в производстве научных знаний - феноменологически вдохновленное понятие исследователь как инструмент. Позитивистская идея науки как представления фактов с точки зрения из ниоткуда больше не выдерживает критики. Как сказал Морис Мерло-Понти в своем эссе Глаз и разум:

Научное мышление, мышление, которое смотрит сверху и думает об объекте в целом, должно вернуться к тому «есть», которое ему предшествует.

Ниже приведены некоторые ключевые аспекты данных качественного исследования, которые ученые могут использовать для размышлений о своих собственных исследованиях (адаптировано из Sarah J. Tracy).

Достоверное исследование: Какие улучшения и изменения в различных алгоритмах классификации, рекомендательных системах или методах сбора данных вы бы хотели применить к себе, своей семье и друзьям или своему сообществу? В случае технологии убеждения, вы бы сами поддались такому убеждению? Вы готовы строить на его основе социальную политику или законодательство? Готовы ли вы лично рекомендовать в качестве государственной политики результаты своей работы?

Саморефлексивность. Каковы мои предубеждения и мотивы для выполнения той работы, которую я делаю? Каковы мои сильные и слабые стороны как специалист по данным? Какие методы и модели работают лучше или хуже для такого рода проблем? Какие предположения стоят за ними? Имеет ли смысл применять те же допущения, которые использовались для моделирования безликих, идентичных частиц физики, к отдельным застенчивым людям с надеждами, мечтами и желаниями? Согласится ли человек, поведение которого моделируется, с вашими предположениями о ее поведении?

Совместная разработка. Как конечные пользователи могут участвовать, задавать вопросы или оставлять отзывы о конечном продукте вашего исследования? Чьи персональные данные использовались при оценке вашего алгоритма, и что они могут сказать о его предполагаемом использовании и его влиянии на них? Это уже новая область исследований в области HCI, но она остается нишевой в академической науке о данных.

Этика. Качественные исследования ставят во главу угла этические проблемы, и только сейчас сообщество AI / ML осознает аналогичную потребность в этом. Abeba Birhane и Fred Cummins подготовили отличную статью по реляционной этике для специалистов по данным под названием Алгоритмическая несправедливость: на пути к реляционной этике.

За холизм.