Здесь я резюмирую, как выявлять и решать этические проблемы глубокого обучения из книги «Глубокое обучение для программистов с помощью fastai и PyTorch» Джереми Ховарда и Сивейна Гуггера.

Для выявления и решения этических проблем глубокого обучения рекомендуется четырехэтапный процесс:

  1. Проанализируйте проект, над которым вы работаете.
  2. Внедрите в своей компании процессы для выявления и устранения этических рисков.
  3. Увеличивайте разнообразие.
  4. Поддержите хорошую политику.

1. Проанализируйте проект, над которым вы работаете

Чтобы не упустить важные моменты при рассмотрении этических последствий вашей работы, вы и ваша команда должны задавать себе правильные вопросы. Рэйчел Томас рекомендует учитывать следующие вопросы при разработке проекта данных:

  • Должны ли мы вообще делать это?
  • Какая предвзятость содержится в данных, которые мы собираем и храним?
  • Можно ли проверить код и данные?
  • Какова частота ошибок для разных подгрупп?
  • Какова точность простой альтернативы, основанной на правилах?
  • Какие существуют процессы для обработки апелляций или ошибок?
  • Насколько разнообразна команда, которая его построила?

Эти вопросы могут помочь вам определить нерешенные проблемы и возможные альтернативы, которые легче понять и контролировать. Помимо того, что нужно задавать правильные вопросы, важно также рассмотреть методы и процессы, которые необходимо внедрить.

2. Внедрите в своей компании процессы для выявления и устранения этических рисков.

Внедрите процессы в своей компании, в том числе регулярные плановые проверки для активного поиска этических рисков (по аналогии с тестированием на проникновение в кибербезопасность), расширение этического круга, включив в него точки зрения различных заинтересованных сторон, и присмотритесь к ужасным людям (как могли актеры злоупотребляют, крадут, неверно истолковывают, взламывают, уничтожают или превращают в оружие то, что вы строите?).

Вот несколько наборов вопросов, которые вы и ваша команда должны задать для выявления и устранения этических рисков:

Даже если у вас нет разношерстной команды, вы все равно можете попытаться активно включить точки зрения более широкой группы, рассмотрев такие вопросы (предоставленные центром «Марккула»):

  • Чьи интересы, желания, навыки, опыт и ценности мы просто предположили, а не проконсультировались?
  • Кто все заинтересованные стороны, которые будут непосредственно затронуты нашим продуктом? Как защищены их интересы? Откуда мы знаем, каковы их интересы на самом деле — спрашивали мы?
  • Кто/какие группы и лица будут косвенно затронуты существенным образом?
  • Кто может использовать этот продукт, которого мы не ожидали, или для целей, которые мы изначально не планировали?

Еще один полезный ресурс от Markkula Center рассматривает, как различные фундаментальные этические линзы могут помочь в выявлении конкретных проблем, и излагает следующие подходы и ключевые вопросы:

  • Правовой подход: какой вариант лучше всего соблюдает права всех, кто имеет долю?
  • Справедливый подход: какой вариант относится к людям одинаково или пропорционально?
  • Утилитаристский подход: какой вариант принесет больше пользы и наименьший вред?
  • Подход общего блага: какой вариант лучше всего подходит для сообщества в целом, а не только для некоторых его членов?
  • Подход добродетели: какой вариант заставляет меня вести себя как человек, которым я хочу быть?

Рекомендации Марккулы включают более глубокое изучение каждой из этих точек зрения, в том числе рассмотрение проекта через призму его последствий:

  • Кого непосредственно затронет этот проект? Кто будет затронут косвенно?
  • Принесут ли совокупные эффекты больше пользы, чем вреда, и какие типы пользы и вреда?
  • Думаем ли мы обо всех соответствующих типах вреда/пользы (психологических, политических, экологических, моральных, когнитивных, эмоциональных, институциональных, культурных)?
  • Как этот проект может повлиять на будущие поколения?
  • Риски вреда от этого проекта ложатся непропорционально на наименее влиятельных в обществе? Будут ли выгоды доставаться непропорционально состоятельным?
  • Достаточно ли мы рассмотрели «двойное использование»?

Альтернативой этому является деонтологическая перспектива, которая фокусируется на основных понятиях правильно и неправильно:

  • Какие права других и обязанности по отношению к другим мы должны уважать?
  • Как этот проект может повлиять на достоинство и автономию каждой заинтересованной стороны?
  • Какие соображения доверия и справедливости имеют отношение к этому замыслу/проекту?
  • Включает ли этот проект какие-либо конфликтующие моральные обязанности по отношению к другим или конфликтующие права заинтересованных сторон? Как мы можем расставить приоритеты?

Один из лучших способов помочь найти полные и вдумчивые ответы на подобные вопросы — убедиться, что люди, задающие вопросы, разнообразны.

3. Увеличьте разнообразие

В настоящее время менее 12% исследователей ИИ составляют женщины, согласно исследованию Element AI. Статистика столь же ужасна, когда дело доходит до расы и возраста. Когда все в команде имеют одинаковый опыт, у них, вероятно, будут одинаковые слепые пятна в отношении этических рисков. Harvard Business Review (HBR) опубликовал ряд исследований, демонстрирующих множество преимуществ различных команд, в том числе:

Разнообразие может привести к более раннему выявлению проблем и рассмотрению более широкого круга решений. Например, Трейси Чоу была одним из первых инженеров Quora. Она написала о своем опыте, описав, как она внутри себя выступала за добавление функции, которая позволила бы блокировать троллей и других злоумышленников. Чжоу рассказывает: Я очень хотел поработать над этой функцией, потому что лично я чувствовал неприязнь и оскорбления на сайте (пол не является маловероятной причиной, почему)… Но если бы у меня не было этой личной точки зрения, возможно, что Команда Quora не отдавала бы приоритет созданию кнопки блокировки на столь раннем этапе своего существования. Преследование часто отталкивает людей из маргинализированных групп от онлайн-платформ, поэтому эта функция важна для поддержания здоровья сообщества Quora.

Важный аспект, который необходимо понять, заключается в том, что женщины уходят из технологической отрасли более чем в два раза чаще, чем мужчины, согласно Harvard Business Review (41% женщин, работающих в сфере технологий, увольняются по сравнению с 17% женщин). мужчин). Анализ более 200 книг, официальных документов и статей показал, что причина, по которой они уходят, заключается в том, что с ними обращаются несправедливо; низкооплачиваемые, менее склонные к ускорению, чем их коллеги-мужчины, и неспособные продвигаться вперед.

Исследования подтвердили наличие ряда факторов, которые мешают женщинам продвигаться по службе. Женщины получают более расплывчатую обратную связь и критику личности при оценке эффективности, тогда как мужчины получают действенные советы, связанные с результатами бизнеса (что более полезно). Женщины часто сталкиваются с тем, что их исключают из более творческих и новаторских ролей, и они не получают заметных «расширенных» заданий, которые помогают им продвигаться по службе. Одно исследование показало, что мужские голоса воспринимаются более убедительными, основанными на фактах и ​​логичными, чем женские, даже при чтении идентичных сценариев.

Статистически показано, что наставничество помогает мужчинам продвигаться вперед, но не женщинам. Причина этого в том, что когда женщины получают наставничество, это совет о том, как им следует измениться и обрести больше самопознания. Когда мужчины получают наставничество, это публичное признание их авторитета. Угадайте, что полезнее для продвижения по службе?

Пока квалифицированные женщины продолжают уходить из сферы технологий, обучение большего числа девочек кодированию не решит проблемы разнообразия, преследующие эту область. Инициативы по разнообразию часто в конечном итоге сосредотачиваются в первую очередь на белых женщинах, хотя цветные женщины сталкиваются со многими дополнительными препятствиями. В интервью с 60 цветными женщинами, работающими в исследованиях STEM, 100% сталкивались с дискриминацией.

Процесс найма особенно нарушен в сфере технологий. Одно исследование, свидетельствующее о дисфункции, исходит от Triplebyte, компании, которая помогает размещать инженеров-программистов в компаниях, проводя стандартное техническое собеседование как часть этого процесса. У них есть захватывающий набор данных: результаты того, как более 300 инженеров сдали экзамен, в сочетании с результатами того, как эти инженеры справились во время собеседования для различных компаний. Вывод номер один из исследования Triplebyte заключается в том, что типы программистов, которых ищет каждая компания, часто имеют мало общего с тем, что ей нужно или чем она занимается. Скорее, они отражают культуру компании и опыт основателей.

Это вызов для тех, кто пытается проникнуть в мир глубокого обучения, поскольку группы глубокого обучения в большинстве компаний сегодня были основаны учеными. Эти группы, как правило, ищут людей, «таких, как они», то есть людей, которые могут решать сложные математические задачи и понимать сложный жаргон. Они не всегда знают, как определить людей, которые действительно хорошо решают реальные проблемы с помощью глубокого обучения.

Это оставляет большие возможности для компаний, которые готовы смотреть за пределы статуса и родословной и сосредоточиться на результатах!

4. Поддержка хорошей политики

Хотя не было конкретных упоминаний о поддержке хорошей политики в отношении этических вопросов глубокого обучения, это косвенно подразумевалось на трех уровнях. Для поддержки правильной этической политики в отношении глубокого обучения должны выполняться следующие условия:

1. Люди должны быть осведомлены об этических проблемах глубокого обучения и думать об этических вопросах, и люди должны сделать привычкой развивать свою осведомленность и навыки этического поведения.

2. Компании должны создавать стимулы для соблюдения этических норм и обеспечивать прозрачность и систему сдержек и противовесов внутри и снаружи, чтобы достаточно часто поддерживать взаимную ответственность различных групп людей.

3. Правительство должно разработать эффективную политику и законы, чтобы стимулировать людей и компании к этичному поведению.

Однако даже с учетом этого мы можем не увидеть каких-либо существенных изменений в этической практике приложений глубокого обучения, пока не изменятся основные стимулы для получения прибыли.

В качестве предмета для дальнейшего обсуждения, как мы можем упростить процесс выявления и решения этических проблем в глубоком обучении до такой степени, что почти каждый сможет изучить этические основы за считанные минуты? Рад услышать любые мысли и отзывы! Удачного кодирования!