В декабре прошлого года Synced опубликовала свой первый отчет Ошибки искусственного интеллекта по ошибкам ИИ за предыдущий год. Искусственный интеллект достиг значительного прогресса, и многие ученые мечтают создать главный алгоритм, предложенный Педро Домингосом, который может решить все проблемы, задуманные людьми. Однако неизбежно, что исследователи, молодые технологии и предвзятые данные также приведут к грубым ошибкам, о которых люди не подозревают.

Вот почему обзор сбоев ИИ необходим и значим: цель статьи не в том, чтобы преуменьшить значение или высмеять результаты исследований и разработок, а в том, чтобы взглянуть на то, что пошло не так, в надежде, что в следующий раз мы сможем добиться большего.

Синхронизировано 10 сбоев ИИ за 2018 год.

Лицо китайского миллиардера опознано как пешехода

Дорожная полиция в крупных городах Китая использует искусственный интеллект для решения проблемы пешеходного перехода. Они развертывают интеллектуальные камеры, используя методы распознавания лиц на перекрестках, чтобы обнаруживать и идентифицировать пешеходов, чьи частично скрытые имена и лица затем отображаются на экране общественного дисплея.

Однако система искусственного интеллекта в южном портовом городе Нинбо недавно пришла в неловкое положение, когда ошибочно «распознала» фотографию китайского миллиардера Минчжу Дуна в рекламе проезжающего автобуса как пешехода. Ошибка стала вирусной в китайских социальных сетях, и полиция Нинбо извинилась. Донг был невозмутим, написав на Weibo: «Это тривиальный вопрос. Безопасное путешествие важнее ».

Исследователь CloudWalk Deep Learning Сян Чжоу сказал Synced, что вероятной проблемой является отсутствие алгоритма обнаружения в реальном времени. «Обнаружение в реальном времени на таком расстоянии - сложная задача, распознавание изображения как реального человека сейчас довольно распространено».

Беспилотный автомобиль Uber убил пешехода

28 марта в Темпе, штат Аризона, произошла первая известная гибель пешехода, связанного с автономным транспортным средством, на дороге общего пользования. Беспилотный внедорожник Uber сбил пешехода-женщину и убил ее. Автомобиль Uber находился в автономном режиме с водителем-безопасником за рулем.

Так что случилось? Uber обнаружил, что его программное обеспечение для самостоятельного вождения решило не предпринимать никаких действий после того, как датчики автомобиля обнаружили пешехода. Автономный режим Uber отключает установленную на заводе систему автоматического экстренного торможения Volvo, согласно предварительному отчету Национального совета по транспортной безопасности США об аварии.

После трагедии Uber приостановил тестирование автономного вождения в городах Северной Америки, а Nvidia и Toyota также прекратили свои дорожные тесты автономного вождения в США. Спустя восемь месяцев после аварии Uber объявил о планах возобновить автономные дорожные испытания в Питтсбурге, хотя будущее компании с автономным вождением остается неопределенным.

IBM Watson не справляется в сфере здравоохранения

Этот продукт - кусок дерьма, - написал врач из больницы Юпитер во Флориде относительно флагманской программы ИИ IBM Watson, - согласно внутренним документам, полученным Stat. Первоначально IBM была машиной для ответов на вопросы, но сейчас изучает возможности искусственного интеллекта Watson в широком спектре приложений и процессов, включая здравоохранение. В 2013 году IBM разработала первое коммерческое приложение Watson для рекомендаций по лечению рака, и за последние пять лет компания установила ряд ключевых партнерских отношений с больницами и исследовательскими центрами. Но Watson AI Health не впечатлил врачей. Некоторые жаловались, что он давал неправильные рекомендации по лечению рака, что могло привести к тяжелым и даже фатальным последствиям.

По сообщениям, после нескольких лет работы над проектом без значительных успехов, IBM сокращает штат Watson Health и увольняет более половины сотрудников подразделения.

Инструмент найма Amazon AI ориентирован на гендерные факторы

Сообщается, что в период с 2014 по 2017 год Amazon HR использовала программное обеспечение для набора персонала с поддержкой ИИ, чтобы проверять резюме и давать рекомендации. Однако было установлено, что программное обеспечение более выгодно для кандидатов-мужчин, поскольку его модель была обучена на резюме, отправленном в Amazon за последнее десятилетие, когда было нанято гораздо больше кандидатов-мужчин.

По сообщениям, программа понижала рейтинг резюме, содержащего слово «женщины» или подразумевающего, что заявитель - женщина, например, потому, что они учились в женском колледже. С тех пор Amazon отказалась от программного обеспечения. Компания не отрицает использования этого инструмента для выработки рекомендаций, но заявила, что он никогда не использовался для оценки кандидатов.

DeepFakes раскрывает неблаговидную сторону ИИ

В декабре прошлого года на Reddit появилось несколько порно-видео с участием ведущих мировых женщин-знаменитостей. Пользователь DeepFakes использовал генеративные сети противоборства, чтобы обмениваться лицами знаменитостей с лицами порнозвезд. Хотя технология смены лица разрабатывалась годами, метод DeepFakes показал, что любой, у кого есть достаточное количество изображений лица, теперь может создавать свои собственные очень убедительные поддельные видео.

Реалистичные фальшивые видео известных людей наводнили Интернет в течение 2018 года. Хотя этот метод технически не является «неудачным», его потенциальные опасности серьезны и далеко идущие: если видеодоказательства перестают быть достоверными, это может еще больше стимулировать распространение фейковых новостей.

Google Photo путает лыжника и горы

Google Фото включает в себя относительно неизвестную функцию искусственного интеллекта, которая может автоматически обнаруживать изображения с одинаковым фоном / сценами и предлагать объединить их в одно панорамное изображение. В январе Пользователь Reddit« MalletsDarker » опубликовал три фотографии, сделанные на горнолыжном курорте: две - пейзажи, другая - его друга. Когда Google Фото объединил эти три, произошла странная вещь: голова его друга была представлена ​​в виде пикового гиганта, выглядывающего из леса.

Фотография вошла в десятку лучших r / funny subreddit и получила 202k голосов. Социальные сети приветствовали умное смешение изображений алгоритмом Google, высмеивая его глупость из-за отсутствия основ композиции.

Робот LG Cloi вызвал страх на сцене на своей презентации

Предполагалось, что 8 января станет днем, когда ИИ-помощник LG по Интернету вещей Cloi дебютирует на выставке CES 2018 в Лас-Вегасе. Cloi был представлен как простой и приятный интерфейс, способный распознавать голосовые команды для управления бытовой техникой. Однако, когда симпатичный робот вышел на сцену для демонстрации вживую, когда аудитория наблюдала, ждала и ждала… он не отвечал на команды директора по маркетингу LG, создавая лишь неловкое молчание.

Блупер робота Boston Dynamics

Производитель роботов Boston Dynamics, принадлежащий SoftBank, не раз поражал Интернет в этом году: его робот-робот SpotMini может ловко открывать двери с помощью закрепленной на голове рукоятки захвата; а его робот-гуманоид Атлас теперь может заниматься паркуром - плавно перепрыгивать через бревно и прыгать по 40-сантиметровым ступеням, не нарушая темпа.

Но даже у Boston Dynamics есть свои упс моменты: Во время своего дебюта на Конгрессе будущих ученых и технологов Atlas поднимал ящики и т. Д. В безупречной демонстрации. Но как только Атлас завернул демо и пытался уйти, бедный робот споткнулся о занавес и неловко упал со сцены. С другой стороны, он упал очень похоже на человеческую мощь.

Прогнозы AI World Cup 2018 почти полностью неверны

Чемпионат мира по футболу 2018 года стал главным спортивным событием года, и исследователи искусственного интеллекта в Goldman Sachs, Немецком техническом университете Дортмунда, Electronic Arts, Пермском государственном национальном исследовательском университете и других учреждениях использовали модели машинного обучения для прогнозирования результатов многоступенчатого соревнования. Однако большинство из них были полностью неправы, и только EA, которая проводила моделирование с использованием новых рейтингов для своей видеоигры FIFA 18, правильно отдавала предпочтение победителю - Франции. Игровой движок EA основан на многочисленных методах машинного обучения, призванных сделать игру игрока максимально реалистичной.

Специалист по данным служб SQL Ник Бернс дал объяснение: «Независимо от того, насколько хороши ваши модели, они хороши ровно настолько, насколько хороши ваши данные ... недавних футбольных данных просто недостаточно, чтобы предсказать результативность на чемпионате мира». Слишком много недостающей информации и неопределенных влияний ".

Стартап утверждает, что предсказывает IQ по лицам

Израильский стартап по машинному обучению Faception сделал спорное заявление о том, что его технология искусственного интеллекта может анализировать изображения лиц и структуру костей, чтобы выявить IQ людей, личность и даже склонности к насилию. Специалист по анализу данных Бен Снайдер упрекнул технику компании в Twitter: Это френология. Вы только что сделали ML эквивалентом дяди-расиста . Твит получил более 6 500 ретвитов и почти 17 000 лайков.

Журналист: Тони Пэн | Редактор: Майкл Саразен

Вышел Отчет об адаптивности AI для публичной компании Fortune Global 500 за 2018 год!
Приобретите отчет в формате Kindle на Amazon.
Подайте заявку на участие в Партнерской программе Insight, чтобы получить бесплатный полный отчет в формате PDF.

Подпишитесь на нас в Twitter @Synced_Global, чтобы получать ежедневные новости об ИИ!

Мы знаем, что вы не хотите пропустить ни одной истории. Подпишитесь на наш популярный Synced Global AI Weekly , чтобы получать еженедельные обновления AI.