Эта статья была первоначально опубликована в виде 10-минутного выступления 2 марта 2018 года на конференции Lesbians Who Tech 2018 года.

Тот факт, что мы собрались здесь, чтобы обсудить ИИ и машинное обучение, для большинства из нас вполне понятен.

Даже если мы не до конца понимаем, что означает любой из этих терминов, мы знаем, что более чем несколько технических блогов и компаний, управляемых более чем несколькими предположительно умными гетеросексуальными белыми мужчинами, сказали нам:

"ЗДЕСЬприведеныидеи, которые должны вас заинтересовать".

Они продали нас на этом, правда.

Как и мобильные телефоны, и компьютеры, и телевизоры, и телефоны, и светофоры, и автомобили, и электричество, и огонь: искусственный интеллект и машинное обучение — наши следующие большие вещи. И мы должны быть готовы к тому, что они изменят весь ландшафт нашего мира, каким мы его знаем.

На самом деле, это уже происходит вокруг нас.

Даже если мы игнорируем умную рекламу и роботы становятся врачами, нас кормят электронными письмами Fast Company, напоминающими нам, что Levi’s изобрел робота с лазером, который не просто шьет джинсы… но делает этичные джинсы.

Скоро станет очевидно, что половина наших задач может быть решена лучше почти бесплатно с помощью ИИ. Это будет самый быстрый переход, который пережило человечество, и мы к нему не готовы. — Кай Фу Ли

Это может звучать драматично. Но, по большей части, я верю, что это правда.

Тем не менее, я думаю, нам нужно действительно понимать, что мы здесь обсуждаем.

Искусственный интеллект — это теория и разработка компьютерных систем, способных выполнять задачи, которые обычно требуют человеческого интеллекта, такие как визуальное восприятие, распознавание речи, принятие решений и перевод между языками.

Машинное обучение — это приложение искусственного интеллекта (ИИ), которое предоставляет системам возможность автоматически учиться и совершенствоваться на основе опыта без явного программирования.

Итак, зная это, я здесь от имени двух своих личностей — английского доктора философии. и исполнительный директор Хафра — чтобы помочь нам иначе относиться к обоим этим терминам.

Как ученый-литературовед, я глубоко заинтересован в повествовании и в том, как оно формирует мир вокруг нас, поэтому я здесь, чтобы попросить нас отложить недоверие и пересмотреть истории, которые мы себе рассказываем. о нашем отношении к будущему с мощными машинами.

Я бы хотел, чтобы мы думали о механизированных машинах и роботах, как о том, чем они являются: нашим следующим поколением или этапом эволюции, разнообразными расширениями (или, чего некоторые из нас могут опасаться, заменами) наших нынешних личностей. .

А затем давайте подумаем об искусственном интеллекте как об основной учебной программе, образовании или воспитании, которое мы даем следующему поколению. Это все, что мы говорим им, что им нужно, чтобы выжить.

А затем давайте рассмотрим машинное обучение как их самостоятельное исследование или их программы непрерывного обучения. Это все, что они решают, что им нужно процветать.

И затем — несмотря на то, что средства массовой информации перелопатили представление о машинных технологиях, когда машины пожирают нас заживо, — давайте попробуем вспомнить, что мы на самом деле пытаемся выяснить, как этически поддерживать наше следующее поколение людей. И мы молодцы. Так что, скорее всего, мы никуда не поедем в ближайшее время.

И при этом давайте держаться за тот факт, что я прошу нас подумать обо всем этом, потому что я верю в наши повышенные способности.

Я считаю, что мы можем выполнять несколько задач одновременно, и независимо от того, считаем ли мы себя технологами, специалистами по искусственному интеллекту или кем-либо из вышеперечисленных, мы все можем продолжать преуспевать в нашей повседневной работе, даже если мы начнем рассматривать некую версию справедливого будущего, в котором мы как разумные люди сосуществуем с, возможно, бесконечно более разумными машинами.

И здесь начинается моя повседневная работа, где я помогаю людям формулировать и воплощать в жизнь радикальные, преобразующие идеи.

В Khafra первое, что мы начали думать о наших отношениях с ИИ и машинным обучением, — это контент.

Благодаря машинному обучению в маркетинге, который к 2022 году достигнет индустрии с оборотом 8,81 миллиарда долларов, более 60 процентов маркетологов используют ИИ для динамических целевых страниц, веб-сайтов, программной рекламы и закупок медиа.

Но мы думаем о контенте, необходимом для разработки полезного ИИ, и возможностях контента, которых он может достичь. Я говорю так, как будто мой телефон — просто с использованием общего разговора — активно связывает меня с этичным, беспристрастным, ориентированным на миссию инвестором, а не пытается продать мне обувь или быструю моду, сделанную в Китае.

И, конечно же, я верю, что мы на пути к этому.

Но развитие искусственного интеллекта — это не волшебство. Так же как и процесс, который приведет нас к ранее упомянутому будущему сосуществования машин и людей с содержанием, которое точно и эффективно отражает население, которому оно служит.

И мы знаем это, потому что, помимо нашего полного вымирания, есть более повседневные заботы, связанные с будущим ИИ и машинного обучения.

Некоторые из них выглядят так:

«Я все больше склоняюсь к мысли, что должен быть какой-то регулирующий надзор, может быть, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то очень глупое. Я имею в виду, что с помощью искусственного интеллекта мы вызываем демона». — предупредил Илон Маск на симпозиуме AeroAstro Centennial в Массачусетском технологическом институте.

«Реальный вопрос в том, когда мы разработаем билль о правах искусственного интеллекта? В чем это будет заключаться? И кто это будет решать?» — Грей Скотт

«Никто так не формулирует, но я думаю, что искусственный интеллект — это почти гуманитарная дисциплина. Это действительно попытка понять человеческий интеллект и человеческое познание». — Себастьян Трун

Но мое любимое опасение исходит от Тома Чатфилда:

«Забудьте об искусственном интеллекте — в дивном новом мире больших данных нам следует опасаться искусственного идиотизма».

И именно эта идея искусственного идиотизма является моей главной заботой.

И мои рассуждения можно резюмировать, прочитав заголовок статьи Айлин Калискан, опубликованной в апреле 2017 года в журнале Science:

Семантика, полученная автоматически из языковых корпусов, содержит человеческие предубеждения

Калискан утверждает, что машины не только узнают то, что люди знают неявно. Но они могут научиться знать и делать то, что делаем мы, лучше. И это включает предвзятость. Исследование Калискана показывает нам, что ИИ может изучать субъективные ассоциативные модели, такие как приятность и цветы или неприятность и насекомые. Он также может показывать отношения и убеждения — например, ассоциации между женскими именами и фамилиями или мужскими именами и карьерой. И хотя это может быть не выражено явно, такого рода предубеждения могут оказывать влияние на поведение.

И это возвращает нас к искусственному идиотизму.

Я здесь, потому что, хотя я и верю в наши повышенные возможности, меня беспокоит, действуем ли мы от этого. Меня беспокоят системы контента, которые мы создаем, и то, что мы увидим в отражении, когда машины начнут изучать эти системы.

Интересно, то, что мы увидим, является вопиющим отсутствием вдохновения и понимания?

И я говорю это, но я имею в виду, увидим ли мы отражение того же самого: контент, отражающий годы скрытой предвзятости, расизма и моделей неограниченного превосходства белых, контент, предназначенный для демонизации и преследования огромных частей нашего населения? Но более быстрыми темпами и с более разумной логикой?

Увидим ли мы, что наша отстраненность, наши эгоцентричные способы творчества, выдающие себя за инновации, наше полное отсутствие воображения будут преследовать нас и управлять нами?

Меня беспокоит то, что мы слишком поздно осознаем, что больше всего мы боимся того факта, что искусственный интеллект может лучше воздействовать на нас, боль, которую мы на протяжении веков причиняли себе сами?

Так что, конечно, нам есть над чем подумать за 10 минут.

Но, я думаю, этого достаточно, чтобы напомнить нам, почему мы здесь:

Будущее вымышлено, все в нем создано нами, включая машины.

Если мы хотим, чтобы наши мечты были воплощены, если мы хотим сделать больше, чем вечно шептать Ваканду, просто посещая ее в кинотеатрах, если мы действительно непреклонны в том, чтобы никогда больше не говорить #metoo, сейчас самое время держаться за прайм кармический урок: даже наука предполагает, что мы получим от нашего будущего не меньше, а скорее даже больше, чем то, что мы готовы дать.