Почему ИИ должен стать радикальным, чтобы решить проблему разнообразия

Модель использования равноправного представления в разработке продуктов ИИ

Ни для кого не секрет, что в сфере технологий искусственного интеллекта существует проблема разнообразия. Продолжающееся преобладание мужских групп на большинстве крупных конференций, ошеломляющее гендерное неравенство на уровне высшего руководства в стартапах в сфере технологий искусственного интеллекта и непропорционально большое количество людей, у которых берут интервью о технологиях искусственного интеллекта в средствах массовой информации, - все это указывает на проблему, которую многие из нас знают, но не знают, как решить.

Многие благонамеренные люди пытались решить эту проблему сверху вниз, как будто еще один тренинг по включению разнообразия, спонсируемый корпорациями, разрешит глубоко укоренившееся расовое и гендерное неравенство, заложенное в основу наших систем. К сожалению, старый способ включения разнообразия по частям и сверху вниз не помогает разобраться в сути проблемы. Для нас как отрасли давно пора радикально подходить к этой проблеме.

Что я имею в виду под "стать радикальным"?

1. Мы должны быть готовы признать, что у нас все еще есть серьезная проблема представительства в нашей отрасли, и признать настоящие этические последствия этой проблемы.
2. Мы должны стремиться изменить представление о том, что эта проблема представляет собой своего рода второстепенную трудность, которую важно решать только тогда, когда нам удобно ее решать. Мы должны сосредоточить эту проблему как определяющую проблему того, кем мы хотим быть как отрасль и что мы хотим представлять.
3. Мы должны проявлять смелость, смелость и стратегию в изменении наших систем и повседневных действий для создания мира.

В этом эссе сначала излагается проблема представительства разнообразия в технологических пространствах ИИ, а затем предлагается одна возможная модель для практического применения равного представительства в разработке продуктов ИИ.

В начале этого эссе важно назвать мою собственную позицию белого человека, изучающего этику ИИ, который пишет о том, как мы, как отрасль, должны решать репрезентативные проблемы в сфере технологий ИИ, в том числе в области этики ИИ. Давайте будем честными, мой голос не тот, который вам следует слушать. Вы должны слушать таких невероятных ученых, как доктор Тимнит Гебру, Абеба Бирхане, доктор Руха Бенджамин и многих других, которые являются экспертами в этих вопросах и потенциальных путях продвижения вперед. Иди читай их работы.

Тем не менее, я считаю, что наша область слишком долго просила голоса уже маргинализованных людей, чтобы они взяли на себя тяжелую работу по перетаскиванию людей с моей идентичностью как белого мужчины, чтобы они выполняли нашу собственную чертову работу. Я считаю, что это часть моей ответственности как белого мужчины в области технологий искусственного интеллекта - использовать мою платформу, чтобы говорить о проблемах представительства в этих областях и работать над поиском тонких решений этих проблем. Подобные эссе являются частью моей собственной попытки смоделировать интроспективную работу, которую мы все должны проделать, чтобы создать индустрию, в которой каждый голос слышен.

I. Хьюстон. У нас проблема - можем ли мы признать это уже ?!

Подобно мудрости, высказанной Анонимными Алкоголиками, первым шагом для индустрии технологий искусственного интеллекта является признание того, что у нее есть проблема во всем ее сердце, а не только на словах о том, что у нас может быть проблема.

1 октября 2019 года популярный технический журнал Wired опубликовал основополагающую статью, написанную технологическим журналистом Сарой Харрисон под названием Пять лет отчетов о техническом разнообразии - и небольшой прогресс. [1] Статья начинается Прошло пять лет с тех пор, как Apple, Facebook, Google и Microsoft впервые опубликовали отчеты о разнообразии, показывающие, что в компании работают преимущественно белые или азиатские мужчины. Пять лет с тех пор, как Facebook «впервые признал, что у него больше работы - намного больше, а генеральный директор Тим Кук написал сотрудникам Apple письмо, пообещав, что компания будет столь же инновационной в продвижении разнообразия, как и мы в разработке продуктов. « [2] В статье делается вывод о том, что отчеты за пять лет ясно показывают, что несмотря на успехи в бизнесе, ни одна из этих крупных технологических компаний не добилась значительного прогресса в диверсификации своей рабочей силы. [3]

Результаты были особенно очевидны среди технических работников - программистов, инженеров и специалистов по обработке данных… В Google и Microsoft доля технических сотрудников США, которые являются чернокожими или латиноамериканцами, с 2014 года выросла менее чем на процентный пункт. Доля черных технических специалистов количество рабочих в Apple не изменилось и составляет 6 процентов, что составляет менее половины 13-процентной доли чернокожих в населении США . [4] В целом расовое разнообразие в крупных технологических компаниях практически не изменилось с момента 2014 года, когда компании имели начали публиковать цифры, чтобы повысить прозрачность в отношении разнообразия и якобы пообещать ресурсы и намерение разрешить кризис разнообразия. Я включил графики с выводами статьи в Приложение А к этому эссе.

Хотя необходимы более конкретные исследования, детализирующие представление, ясно, что этот кризис разнообразия также присутствует в области искусственного интеллекта (ИИ) технологического сектора. Институт AI Now при Нью-Йоркском университете, один из наиболее уважаемых в мире аналитических центров по этике ИИ, включил следующий анализ в свой годовой отчет за декабрь 2019 года: Недавние исследования показали, как предвзятость, заложенная в технологической индустрии, работает в цикле обратной связи. от ужасного отсутствия разнообразия среди сотрудников до разрушительной дискриминации, заложенной в алгоритмы. Одно исследование показало, что только 18 процентов докладчиков на ведущих конференциях по ИИ были женщинами, в то время как другое показало, что 80 процентов профессоров ИИ - мужчины. Показатели показывают, что все выглядит намного хуже, если рассматривать представленность по расе, этнической принадлежности или способностям . [5]

В апрельском отчете AI Now 2019 года Дискриминационные системы: пол, власть и раса в ИИ проблема разнообразного представительства в ИИ ставится еще более прямо и тревожно. На основании обширного качественного исследования авторы приходят к выводу: Несоответствие в индустрии искусственного интеллекта крайне велико: женщины составляют только 15% исследовательского персонала в области искусственного интеллекта в Facebook и 10% в Google. Публичных данных о транс-работниках или других гендерных меньшинствах нет. Для чернокожих рабочих картина еще хуже. Например, только 2,5% сотрудников Google составляют чернокожие, в то время как Facebook и Microsoft составляют по 4%. Учитывая десятилетия беспокойства и инвестиций для исправления этого дисбаланса, текущее состояние в этой области вызывает тревогу . [6]

Избыточное представительство какой-либо группы идентичности в пространстве технологий искусственного интеллекта было бы проблематичным. Как недавно заявил основатель Black in AI доктор Тимнит Гебру в интервью MIT Technology Review о влиянии чрезмерной представленности на разработку ИИ:

[Избыточное представительство вызывает] предвзятость в отношении того, какие проблемы мы считаем важными, какие виды исследований мы считаем важными и куда, по нашему мнению, должен идти ИИ. Если у нас не будет разнообразия в нашем наборе исследователей, мы не будем заниматься проблемами, с которыми сталкивается большинство людей в мире. Когда проблемы не затрагивают нас, мы не думаем, что они настолько важны, и мы можем даже не знать, что это за проблемы, потому что мы не взаимодействуем с людьми, которые их испытывают. [7]

Согласно анализу Гебру, чрезмерная представленность определенной группы идентичности в разработке технологий искусственного интеллекта обязательно ограничивает широту жизненного опыта и разнообразие знаний в комнате, разрабатывающей технологию. Благоприятным последствием этого является возможное несоответствие между определением проблемы и дизайном продукта, определяемым теми, кто находится в помещении, и потребностями потребителя, находящегося ниже по потоку. Тем не менее, более пагубный потенциальный вред этого разобщения имеет далеко идущие последствия, особенно если учесть, насколько повсеместно используются технологии искусственного интеллекта в повседневной жизни людей, принадлежащих к разным культурам и национальностям. Когда чрезмерная представленность на этапе проектирования технологии искусственного интеллекта не контролируется, существует четкая корреляция с более сильными алгоритмическими предрассудками в дальнейшем.

Преимущества технологических пространств ИИ непропорционально выгодны для белых образованных мужчин за счет невыгодного положения гендерных меньшинств, цветных людей и других недостаточно представленных групп. Это верно на всех уровнях пространства технологий ИИ, от стадии проектирования до того, кому эти технологии в основном помогают, когда они применяются на стороне потребителя, чьи голоса наиболее заметно фигурируют в репрезентациях СМИ о новостях технологий ИИ. Такое непропорциональное преимущество белых людей в пространстве технологий ИИ является частью исторического глобального контекста, в котором белые люди получили несоразмерно большую выгоду от социальных, экономических и политических систем власти, особенно в контексте научного развития.

TL; DR: это проблема. Большая проблема. И мы, как индустрия, должны это признать. У нас нет времени медлить с решением этих проблем. Если мы серьезно относимся к тому, чтобы быть отраслью, основанной на морали, справедливости, подотчетности и прозрачности, мы должны радикально сосредоточить этот вопрос в нашей повседневной работе таким образом, чтобы показать, что мы действительно принимаем приглашение тех, кто был самым непосредственным образом пострадали. Мы должны стремиться изменить представление о том, что эта проблема является своего рода второстепенной трудностью, которую важно решать только тогда, когда нам удобно ее решать, потому что, предупреждаем о спойлере, это никогда не будет «удобной» проблемой для решения. сильный>