Жизнь по духу в эпоху машинного обучения

Победитель конкурса писателей FaithTech Institute 2020 года!

Посетители учебника TensorFlow от Google Codelabs столкнутся с двумя диаграммами, контрастирующими между традиционным компьютерным программированием и машинным обучением (ML):

В традиционном программировании правила - это, по сути, жестко запрограммированные входы в системы, которые мы будем называть следованием правилам, тогда как в ML правила можно рассматривать как продукты: правила создаются в смысле "Изготовлено". Сторона диаграммы, связанная с машинным обучением, напоминает мне песню CCM 90-х Стивена Кертиса Чепмена (и моего коллеги Джеймс Эллиот!) Кто устанавливает правила. Он включает следующие строки:

«Думаю, больше всего меня беспокоит то, что я вижу, как мы играем по тем же правилам, которые использует мир».

Эта проблема связана с текущими разговорами о справедливости при разработке автоматизированных систем принятия решений, но сначала давайте исследуем сходство между ML и христианством в отношении правил.

Как и ML, христианство представлено в письмах Павла как отличное от следования правилам Закона Моисея. В терминологии машинного обучения Закон был задуман как показатель, а не цель. Закон был стандартом поведения, но он был бессилен достичь цели внутренней праведности: Ибо никто никогда не может быть исправлен перед Богом, выполняя то, что заповедует закон. Закон просто показывает нам, насколько мы грешны . В христианских традициях такое следование правилам называется законничеством, древним примером закона Гудхарта:

«Когда мера становится целью, она перестает быть хорошей мерой».

Подобно системам искусственного интеллекта (ИИ), которые следуют правилам, созданным для деловых и потребительских приложений до подъема машинного обучения, юридическая система страдает от недостатков, таких как хрупкость, недостаток приобретения знаний и трудности в разрешении сложных ситуаций. Павел призывает верующих отказаться от следования правилам и жить по Духу, тем самым делая выводы через Закон, вкладываемые в наши умы и записанные в наших сердцах - или на языке машинного обучения, закодированные в веса наших нейронных сетей. Еще одна песня CCM 90-х разъясняет:

«Это всего лишь дух.
Это просто святой толчок.
Это как окружной судья в мозгу…
Это сложно объяснить».

- «Вещь духа», газетчики (1994).

Трудно объяснить: как и во многих системах машинного обучения, преимущества руководства Духом достигаются за счет объяснимости. Написание правил обеспечивает прозрачность, которой может не хватать сложным системам вывода. Право на объяснение в GDPR ЕС исключает использование сложных нейронных сетей, поскольку решения о том, кто получает банковские ссуды и кто считается высокорисковым в уголовном судопроизводстве, слишком важны, чтобы оставлять их. к непостижимым моделям, многие из которых демонстрируют несправедливость в различных формах, которые вместе именуются предвзятостью. Как продемонстрировал недавний конфликт между Яном Лекуном и Тимнитом Гебру, существует четкое представление о том, что предвзятость возникает из-за наборов данных обучения, но предвзятость может присутствовать на многих этапах развития, включая глобальную цепочку поставок. Тем не менее, такие случаи, как отсутствие черных лиц в наборах данных компьютерного зрения или использование исторических данных из практики найма, в основном состоящей из мужчин, делают наборы данных хорошим предметом для нашего обсуждения.

Модели машинного обучения, обученные на текстовых наборах данных, учатся отображать предубеждения людей. Фиаско чат-бота Tay от Microsoft показало, насколько легко создать расистский ИИ без тщательной обработки данных, но даже один из наиболее широко используемых наборов данных компьютерного зрения изобилует уничижительными ярлыками для людей: snob , slattern и т. д. Эти неправильные названия имеют значение, потому что системы машинного обучения часто структурируются как классификаторы, изучая эти ярлыки основной истины , чтобы применять их к новым случаям. Ярлыки - это позывные классификации, которые затем используются в политике. И как говорится, наклеить ярлыки - чтобы оправдать дискриминационную или насильственную политику, привязать к ярлыку. Если кто-то заклеймит вас нацистом и считает, что нацисты заслуживают ударов руками, то… Одного исследователя ОД недавно заклеймили фанатиком за то, что он поделился сообщениями о нарушениях прав человека в Китае, и его трудоустройство подверглось угрозе, потому что люди будут чувствовать себя небезопасно. Оставляя в стороне иронию о том, кто заставляет кого чувствовать себя в опасности, мы видим, что ярлыки могут быть сильными и спорными. Выбор чьи ярлыки использовать? тогда является ключевым. Это легко увидеть в медицине, где ярлыки экспертов должны заменять ярлыки, полученные с помощью краудсорсинга, но это также относится и к моральным суждениям. Говоря словами другой песни CCM 90-х,

«Называть правильным или неправильным с точки зрения людей - все равно что просить совета у неудачника».

- «Социально приемлемый», DC Talk (1992).

Одна из важных задач присвоения ярлыков, анализ настроений, направлена ​​на то, чтобы классифицировать контент как выражающий положительное или отрицательное отношение к текстам, таким как твиты, обзоры фильмов, или - как умножение требований для модерации контента в социальных сетях - высказывания ненависти. Обычно модели выводят оценку настроения, которая превращается в классификацию, основанную на том, превышает ли оценка некоторое пороговое значение. Наивно сконструированный набор данных будет иметь тенденцию вызывать предвзятость, давая более низкие оценки для выражений недостаточно представленного статуса с точки зрения расы, пола или религии. Другая важная задача обработки текста включает формирование словесных ассоциаций с помощью встраивания слов [векторов], которые в конечном итоге кодируют человеческие предубеждения, присутствующие в тексте, и поднимают вопрос Чья правда является« основной истиной? »

Чтобы решить проблемы предвзятости, предпринимаются усилия по увеличению разнообразного представительства людей в наборах данных, внутри команд, создающих модели машинного обучения, и среди голосов, усиливающихся на конференциях для промышленности и академических кругов, в категориях расы, пола и сексуальной ориентации, и ... . Часто в списке категорий явно отсутствует религия, несмотря на недопредставленность религиозных деятелей в технологической индустрии и академических кругах. Это серьезное упущение, поскольку Писание поощряет христиан классифицировать себя не по этническим терминам, а, скорее, по межрасовому единству семьи Бога. Таким образом, схема классификации определяет, какие формы принимают представление и разнообразие. Как Кейт Кроуфорд указала Королевскому обществу, системы классификации сами по себе являются объектами власти, которые все больше концентрируются в руках немногих, создающих системы искусственного интеллекта. Кроуфорд продолжает: ИИ перестраивает власть, и речь идет о настройке того, кто что может делать, с чем и как работают знания.

То, что христиане и технологические компании предпочитают выходить за рамки разнообразия происхождения, является общей основой, однако разнообразие верований несет с собой неизбежные конфликты, и тогда как пример Иисуса наставляет христиан сидеть за столом с проблемными людьми. и даже любить тех, кого они считают предосудительными, нехристианский мир не подвергается такому принуждению, даже гордо отказывается сидеть с оппонентами. Как пояснил Аласдер Макинтайр в After Virtue, непоследовательное использование ценностей в современных плюралистических обществах является результатом сохранения выводов многовековых моральных рассуждений, отрицая их основу, уступая бесконечные зрелища моральных позиций, со страстью отстаиваемых признанными моральными релятивистами.

Другие попытки исправить предвзятость включают устранение предвзятости в моделях машинного обучения, что равносильно повторному смещению, в зависимости от того, что подразумевается под предвзятостью. Снятие смещения обеспечивает симметрию (или инвариантность) выходных сигналов по отношению к изменениям входных данных (например, мужской → женский, черный → белый). Однако предвзятость также может означать неявные предположения. Следует понимать, что требование симметрии - это предвзятость. Например, многие в прогрессивных кругах сочли ужасным результат: Мужчина для программиста, как женщина для домохозяйки. Снятие смещения это исправляет историческую ошибку для программиста (например, создателем программирования была женщина), но при этом налагает идеологическое предубеждение против гендерной роли домохозяйки, которую многие - хотя, безусловно, не все - христиане ценят. Этот выбор является утверждением воли, как говорит Ханна Фрай, решающей, в каком мире мы хотим жить. Но остается вопрос: Кто такие« мы ?»

Примеры алгоритмической антихристианской предвзятости не попадают в новости, подобные тем, что относятся к расе или полу, но они включают автоматическое (неправильное) обозначение традиционных христианских взглядов на сексуальность как язык ненависти и видео о поклонении как « вредоносная или ложная информация . Это упущение имеет смысл, учитывая безразличие или открытую враждебность к христианам в академических кругах, прессе и Кремниевой долине - последнее заслуживает эпизода телекомедии HBO! Вот несколько недавних примеров: подписчики заявления южных баптистов об этике искусственного интеллекта уклоняются от включения в список филиалов компаний (пример закрытых консерваторов), потому что даже частные действия в соответствии со своей верой вне работы могут вызвать у вас «. вытеснен » и вытеснен; престижная панель по науке, религии, искусственному интеллекту и этике с участием атеистов, но без верующих (или программистов?); и исследовательская группа, демонстрирующая антикатолические ненормативные лексики в качестве основного примера корпуса текстов.

В то время как библейские взгляды на сексуальность возглавляют список многих критиков, другая христианофобия по-прежнему исходит из длинного дискредитированного конфликта повествования вокруг веры и науки (хотя чем тяжелее наука, тем Больше христиан можно найти) и стереотипы, основанные на прискорбных подгруппах. Такие стереотипы заслоняют многие новаторские вклады христиан в науку и технологии, часто вытекающие из их отличительных мировоззрений. Организации, которые называют себя прогрессивными, расходятся со своими заявленными ценностями, когда они продвигают вредные христианские стереотипы способами, не поступающими по отношению к другим, придерживающимся аналогичных взглядов на сексуальность (например, мусульмане). И все же Иисус предсказал следующее: Все будут ненавидеть тебя из-за меня. Следует ли христианам ожидать иного? Модераторы противоречат своим собственным заявлениям о нейтралитете, когда они гордо удаляют политические посты, с которыми они не согласны. Дело не в том, чтобы выступать за Трампа или против Трампа, а в том, чтобы подчеркнуть динамику влияния власти в сфере контроля технологических компаний над глобальным потоком информации, ее классификацией, вытекающими из этого политиками и их последствиями. Как недавно заявила Зейнеп Туфеки,

«Настоящий вопрос не в том, делает ли Зак то, что мне нравится, или нет… [это] почему он должен решать, что такое язык ненависти».

Для модерации контента на основе машинного обучения это возвращает нас к чьи ярлыки? и« кто за столом? Экспертный этикетировщик для христиан - это Бог, явленный в Писании в лице Иисуса, переживаемый Святым Духом. Любые усилия по созданию альтернативных СМИ, социальных платформ или даже моделей машинного обучения, подобных СКК, - включая важный вопрос о том, кто и к кому может наложить ярлык христианин, - должны рассматриваться как сила, не связанная с мирской политикой. Он обладает властью изменять ярлыки: объявлять нелюбимого любимым, виновного - невиновным; Переименование и утверждение новой идентичности. Святой Дух может сбрасывать веса в нейронных сетях нашего разума, переписывая правила, усвоенные во время болезненного прошлого.

Христианский ответ на новую статью ML Можно ли переписать правила в глубокой сети? решительно Да. Сам мир возродится. Таким образом, христиане могут делать двунаправленный вывод, оглядываясь назад на Божью верность и вперед через Его обещания, когда мы фокусируем свое внимание на Христе в настоящем, чтобы мы могли (поместить 2 Коринфянам 3:18 в ML) максимально увеличивают нашу меру сходства с ним до постоянно растущих возможностей.

Работая за столом с другими, христиане должны продвигать многие цели прогрессивных технических и академических групп, которые согласны с христианскими предшественниками, такими как справедливость для бедных, приветствие иностранцев, помощь нуждающимся и забота об окружающей среде. Поскольку христиане стремятся усердно работать для могущественных нехристианских работодателей, мы можем вместе подчеркивать эту общую основу и партнера, чтобы преобразовать мир искупительными способами.

Физик доктор Скотт Х. Хоули заинтересовался машинным обучением в 2013 году, когда он увидел, как это повлияет на карьеру его студентов-звукорежиссеров в университете Бельмона. Его работы по ИИ и этике публиковались в Perspectives on Science and Christian Faith и Superposition.com. Он очарован классификацией. Найдите его в Twitter @drscotthawley.

Узнайте больше о FaithTech на сайте trusttech.com.

Хотите присоединиться к движению? Начни здесь.