Почему изменение нашего языка делает ИИ более ответственным

В жизненном цикле модели машинного обучения мы обычно называем внедрение моделей в продукты «развертыванием» моделей. Несмотря на широкое признание, слово «развертывание» закреплено за властью и милитаризацией.

Язык, на котором мы говорим об ИИ, невероятно важен, в том числе с технической точки зрения. Один из самых больших недостатков обсуждения машинного обучения и искусственного интеллекта - это термины, которые мы использовали для его описания. Например, взгляните на «внедрить» и «развернуть»: какое слово лучше всего описывает то, что вы делаете с производственной моделью машинного обучения? Хотя практики могут утверждать, что слова имеют то же значение в контексте машинного обучения, в этом посте я расскажу, почему реализация и включение могут быть лучшими терминами, чем развертывание. (Лично я предпочитаю реализовать). Я также расскажу, как использование разных слов может помочь нам создать движение за ответственный ИИ, охватывающее дисциплины и отрасли.

Использует ли правильное слово?

Использование слова «развертывание» в военных целях на английском языке восходит к 1786 году, что означает «протягивать» (войска) в линию и / или «расширять» (отряд, который был сформирован в колонны). Этот термин используется образно с 1829 года, и это не только бесполезно при обсуждении ИИ, но также перекликается с другими словами, которые являются частью нашего современного словаря, такими как колонизировать (часто используются при описании путешествия человека на Марс).

Кроме того, это подразумевает знание того, что может быть использовано против какой группы или групп на основе исторического языка. Если вы удалите эту коннотацию, это может показаться достаточно невинным, однако мы должны перестроить наш язык для реализации моделей машинного обучения. Я призываю вас понять, почему использование deploy конкретно пересекается с ущербом справедливости и несправедливыми системами в обществе.

Это предполагаемое знание о том, что будет развернуто, является огромной проблемой. Специалисты по обработке данных и инженеры по машинному обучению понимают, что система принятия решений будет развернута, но мы не всегда знаем, какое влияние она окажет на эти модели. Учитывая, что 65% компаний не могут объяснить, как принимаются решения или прогнозы по модели ИИ, мы должны быть обеспокоены тем, что развертываем вещи, не зная о потенциальных последствиях, с которыми могут столкнуться группы.

Использование развертывания для описания технического действия, особенно с учетом воздействия и масштаба работы в области науки о данных и искусственного интеллекта, как минимум неточно. Отсутствие конкретики, используемой при разговоре об ИИ, не помогает смягчить вред этих систем, которые часто укрепляют стереотипы, ухудшают работу пользователей и работают без надзора. Термин «развертывание» усиливает структуру власти между организациями, которые создают технологии, и их пользователями. Развертывание является односторонним, с пользователями редко консультируются, и нет никаких опровержений или дебатов по поводу решений этих систем. Это не соответствует целям этики в области искусственного интеллекта.

Дискурс ML / AI и его последствия

Отсутствие у нас конкретики и внимания к точному выбору слов перекликается с точными методами, которые приводят нас к разным результатам режимов машинного обучения. Отсутствие руководства со стороны социологов, нижестоящих групп людей, которые могут быть затронуты, и исследователей справедливости; то, что инженеры делают прямо сейчас, ЯВЛЯЕТСЯ развертыванием моделей без особого внимания к тому, для кого эта модель развернута. Это лишь часть причины, по которой 90% всех моделей машинного обучения никогда не попадают в продукт.

Поскольку модели машинного обучения развертываются в производственной среде с сомнительной этикой, без достаточной прозрачности или возможности для ввода, это также облегчает проникновение в наши рабочие места и в личную жизнь через нарушения конфиденциальности. Нам нужно перейти от использования таких терминов, как развертывание, к расширению того, чем могли бы быть эти разговоры, если бы они были основаны на исследованиях социальных наук, посвященных инклюзивности и разработке ИИ, основанной на эмпатии.

И по мере развития ИИ и изменения нашего понимания его должен быть и язык, который мы используем для его описания. Что это значит для тебя?

Много Ctrl + F и Ctrl + V

Обновление нашего языка на основе новой информации далеко не ново. Язык обычно сдвигается и меняется со временем. И по мере развития ИИ и изменения нашего понимания его должен быть и язык, который мы используем для его описания. Для нас, исследователей, инженеров, руководителей предприятий, политиков и преподавателей, работающих в области искусственного интеллекта, важно понимать, как язык формирует взгляды на эту технологию.

Нам не нужно ждать революции или нового мирового порядка, прежде чем предпринимать действенные шаги по улучшению нашего процесса моделирования; Вы можете начать сегодня с того языка, на котором разговариваете со своей командой. Обновите наборы слайдов и внутренние документы.

До сих пор в рассуждениях о машинном обучении использовались термины, которые могут кодировать убеждения, ценности и взгляды тех, кто их использует, даже непреднамеренно. Когда мы смотрим в будущее ИИ, нам важно быть внимательными и целенаправленными в своих словах. Мы должны использовать язык, который передает то, что мы делаем, таким образом, чтобы улавливать нюансы и сложность машинного интеллекта, при этом уважая этимологию и коннотации слов, которые мы выбираем.

Что вы думаете?

Каким словом вы бы описали свою работу по продвижению модели в производство? Позвольте мне знать в комментариях ниже!