На прошлой неделе я выступил с презентацией об искусственном интеллекте для специалистов по продуктам: заказов на поставку, PMO и других. Я вспомнил, как мой компьютерный день использует ботов Alexa, Slack, x.ai, Smart Lighting и как я счастлив, что живу в такую ​​эпоху. Многие из умных, когнитивных и автоматических вещей, которые мы видим, представляют собой простые рабочие процессы, и в них нет ИИ, как такового (обсуждение другого сообщения). В отличной беседе я попытался передать свое сообщение, разъяснить некоторые концепции и показать, что алгоритмы машинного обучения могут использоваться во многих продуктах - так что у вас может быть ИИ на бэкэнд вашего приложения, программного обеспечения, API, веб-сайта. ,… Распознавание речи, системы рекомендаций, теги изображений, NLP, поисковая оптимизация, кластеризация и многие другие функции, на которые ваш продукт может реагировать, обеспечивая индивидуальный подход.

Рассказывая историю искусственного интеллекта, перепроданности 50-х и 60-х годов, AI Winter и недавнего бума, я пытаюсь убедить всех осторожно переоценить его возможности. Внедрение алгоритмов машинного обучения и наличие ИИ на бэкэнд вашего продукта предоставляют вам огромную свободу. Однако, чтобы это произошло, мы сейчас боремся с двумя моментами:

  • Помеченные данные для вашей проблемы - современные алгоритмы глубокого обучения требуют большого количества помеченных данных. Если вы используете ImageNet, вы можете решить эту проблему. Однако, возможно, ваша проблема уникальна, и вам нужно пометить себя. Это очень дорого, громоздко и требует много времени. Итак, следующими шагами будут алгоритмы, использующие менее размеченные данные и обучающиеся на лету - да, активное обучение и другие функции «человек в цикле» будут расти.
  • Зрелость UX - мы знаем, как создавать привлекательные графические интерфейсы и приложения. Мы занимаемся этим довольно давно. Тем не менее, как реагировать на чат-бота, разговаривать с Alexa и многие другие концепции UX, касающиеся взаимодействия с ИИ, только начинаются. Это займет много времени и исследований, пока мы видим, что VUI (голосовой пользовательский интерфейс) и TUI (текстовый пользовательский интерфейс) становятся более зрелыми.

Черный ящик

После моего выступления также выступили Tomasso Gritti (Создатели мозга) и Domagoj Fizulic (NineConnections). Они обсудили глубокое обучение в распознавании изображений и NLP, показывая важные варианты использования. Что побудило меня написать эту статью, так это беспокойство аудитории по поводу черного ящика и пробелов в подотчетности.

Участники были поражены возможностями и результатами, но в то же время немного встревожены. Как вы можете убедить свой совет директоров, начальника, генерального директора или жену (кто бы ни был ответственным) использовать модель глубокого обучения, если вы не знаете, почему она движется в этом направлении? Почему модель глубокого обучения думает, что это изображение - кошка, когда вы видите, что это собака? Может ли она дать мне все шаги к своему заключению? Еще нет… В тот же день я увидел эту статью в Обзоре технологий, посвященную той же проблеме.

Почему срочно вокруг черного ящика?

Построение модели глубокого обучения, которая хорошо себя ведет, масштабируется и может предсказать / пометить желаемые результаты, - сложная задача. Итак, если он достигает цели и делает большинство пользователей счастливыми, какой смысл понимать, почему?

Давайте посмотрим на меня, Тьяго, в перспективе. Сегодня существуют статистические исследования и генетические исследования, которые могут сказать мне, предрасположен ли я генетически к развитию рака простаты. Если я сделаю такое обследование с результатами, указывающими на то, что у меня есть этот ген, и врач предложит удалить мою простату в качестве профилактической меры… вау! Я проводил дни в сомнениях, получал другое мнение и, возможно, даже пытался понять причину этого, пока не приду к решению.

А теперь представьте другой сценарий. Я делаю анализ крови, исследую ткани и передаю результаты алгоритму глубокого обучения. Он может довольно точно предсказать, что я склонен к развитию рака простаты, но не может сказать, почему (не может выразить словами или обоснованием), он предполагает это. У меня нет объяснения генов, просто алгоритм, точность которого доказана. Мне было бы непросто принять решение, пойти на операцию и удалить орган. Почему? Потому что я не могу понять его мысли.

Люди учатся рассуждению и контексту, чтобы принимать решения каждый день. Мы меняем свои решения, реагируя на окружающую среду, и стараемся оптимизировать наши дни - становиться счастливее, зарабатывать больше денег, быть здоровыми, жить дольше или делать то, что вами движет. Это может быть сложно, но вы можете попытаться определить, почему вы предпринимаете каждое действие каждый день. Отсутствие возможности выразить словами, что и почему - очень пугающее предложение для важных решений.

GDPR, $$ и Warfare

Работа с Data Engineering & AI в Европейском Союзе дала мне место в первом ряду перед передовыми технологиями. Это также дало мне этическую точку зрения, с которой мы все столкнемся с Общим регламентом защиты данных (GDPR), начиная со следующего года. Один из основных моментов, вызывающих беспокойство компаний, заключается в том, что Европейский Союз может потребовать от любого бизнеса объяснить решение, принятое с помощью одного из его алгоритмов. Алгоритмы, которые определяют лимиты, утверждения и отказы в выдаче ипотечных кредитов, кредитов, инвестиций или любых других финансовых инструментов, могут подпадать под это действие. Что это обозначает? Никакого глубокого обучения для финансовых инструментов!

Еще одна напряженная дискуссия вокруг ИИ и глубокого обучения - это то, как его можно использовать в войне. Создание узкого ИИ для сражения, стрельбы и участия в армиях - повторяющаяся идея в книгах, фильмах и человеческом сознании. Однако помните о существовании частных судов, подотчетности и трибунала войн. Участника войны могут судить международные трибуналы (привет, Гаага сейчас рядом со мной!) или его армия во время проверки или объяснений. Если вы не можете спросить солдата-робота, почему он взорвал бомбу, убившую трех мирных жителей (возможно, это спасло 2000 человек), его рассуждения и последовательность решений… Я думаю, у вас может быть проблема. В качестве альтернативы, по крайней мере, вы должны изменить то, как вы преследуете и судите эти военные преступления или расследования.

Будущее

Я уверен, что мы преодолеем эту проблему необъяснимости в алгоритмах глубокого обучения. Вы уже можете видеть, что сверточные нейронные сети, используемые для распознавания изображений, отображают скрытые слои, используемые для краев, текстур и наборов характеристик, которые определяют объект (предполагается, что на этом изображении есть кошка, потому что на нем есть текстура меха и форма кошачьей мордочки на нем, например).

Тем не менее, учитывая экспоненциальный рост технологий глубокого обучения и последующие конфликты с GDPR, нам нужно спешить. В противном случае регулируемые рынки не смогут извлечь выгоду из достижений такой удивительной технологии.

Есть ли у вас опыт, которым можно поделиться, есть идеи, которые нужно попробовать, или вы просто не согласны? Оставьте свой комментарий, полюбуйтесь этой статьей, поделитесь и давайте поднимем эту дискуссию.

Это основано на презентации ИИ как продукт - люди, работающие с продуктом, да здравствует бендер! »на Встрече ProductTank , организованной в Mollie .

Первоначально опубликовано на www.linkit.nl.