Срочные новости: механизм обнаружения объектов на базе искусственного интеллекта смог идентифицировать самую длинную корову на земле.
(никогда не забывайте: без понимания контекста данные просто сводятся к случайной информации).
1. Майкрософт Тай
Разговоры с чат-ботами становятся все более реалистичными и эффективными. Если вы когда-либо взаимодействовали с чат-ботом, значит, вы видели мощь ИИ в действии. Эти компьютерные системы используют обработку естественного языка (NLP) для понимания и воссоздания человеческого языка.
Около шести лет назад Microsoft решила выйти на это пространство. Их чат-бот по имени Tay дебютировал в Твиттере 23 марта 2016 года.
Сначала это звучало многообещающе, но что-то пошло не так. По сути, пользователи Твиттера охотились на рудиментарный НЛП бота и находили способы нацеливаться на уязвимости его конструкции, манипулируя им, чтобы узнавать и повторять неуместные чувства.
Тей не потребовалось много времени, чтобы начать подражать некоторым замечаниям и фразам, используемым на платформе социальных сетей, в конечном итоге делая сексистские, расистские и унизительные замечания в адрес других пользователей Twitter.
Менее чем за 24 часа Microsoft отключила его навсегда.
2. Рекрутинговый инструмент Amazon с искусственным интеллектом показал предвзятое отношение к женщинам
В 2014 году Amazon начала создавать программы машинного обучения для проверки резюме соискателей. Однако экспериментальный инструмент найма на основе ИИ имел серьезный недостаток: он был предвзят в отношении женщин.
Модель была обучена оценивать заявки, изучая резюме, отправленные в компанию в течение 10 лет. Поскольку большинство этих резюме были отправлены мужчинами, система научилась отдавать предпочтение кандидатам-мужчинам. Это означало, что ИИ понизил рейтинг резюме с такими словами, как «женский» (как в случае с «капитаном женского шахматного клуба»). Точно так же выпускницы двух женских колледжей также оказались в более низком рейтинге.
К 2015 году компания признала, что инструмент не оценивает кандидатов на различные роли гендерно-нейтральным образом, и в конечном итоге программа была расформирована. Об инциденте стало известно в 2018 году после того, как об этом сообщило Рейтер.
3. Ложное совпадение распознавания лиц привело к аресту чернокожего мужчины
В феврале 2019 года Ниджер Паркс, 31-летний темнокожий мужчина, проживающий в Патерсоне, штат Нью-Джерси, был обвинен в краже в магазине и попытке сбить полицейского автомобилем в Вудбридже, штат Нью-Джерси. Хотя он находился в 30 милях от места происшествия, полиция опознала его с помощью программного обеспечения для распознавания лиц.
Позже Паркс был арестован по обвинениям, включая нападение при отягчающих обстоятельствах, незаконное хранение оружия, кражу в магазине и хранение марихуаны, среди прочего, и провел 11 дней в тюрьме. Согласно отчету полиции, офицеры арестовали Паркса после «громкого сравнения» со сканированием распознавания лиц поддельного удостоверения личности, оставленного на месте преступления.
Дело было прекращено в ноябре 2019 года за отсутствием состава преступления. Сейчас Паркс подает в суд на тех, кто участвовал в его аресте, за нарушение его гражданских прав, ложный арест и ложное заключение.
Известно, что технология распознавания лиц, которая использует алгоритмы машинного обучения для идентификации человека на основе его черт лица, имеет много недостатков. На самом деле, исследование 2019 года показало, что алгоритмы распознавания лиц гораздо менее точны при идентификации чернокожих и азиатских лиц.
Паркс - третий известный человек, арестованный из-за ложных совпадений распознавания лиц. Во всех случаях ошибочно идентифицированные лица были темнокожими мужчинами.
В конечном счете, хотя в последние годы ИИ стремительно развивался, он далек от совершенства. В дальнейшем крайне важно устранить его многочисленные уязвимости, чтобы он действительно стал технологической движущей силой для всего мира.
Распространенные ошибки, связанные с отказом искусственного интеллекта
1. Использование неверных данных
Стремясь внедрить ИИ в организации, бизнес-лидеры часто хватают любые данные, которые могут найти, и пытаются использовать их в своем приложении машинного обучения. Затем они задаются вопросом, почему он не генерирует идеи из этой информации.
Чтобы данные можно было использовать и использовать с искусственным интеллектом, они должны быть чистыми и точными. Даже самый большой и надежный набор данных в мире будет непригоден для использования, если он устарел, неверен или неполный.
Данные должны быть не только свободны от дефектов, но также должны быть достаточно многогранными, чтобы можно было установить читаемые закономерности.
2. Использование ИИ в качестве быстрого решения
Часто бизнес-проблемы возникают из-за проблем с существующим рабочим процессом или процессом. Хотя ИИ может помочь решить некоторые из этих препятствий, это не временное решение.
Чаще всего требуется реинжиниринг бизнес-процессов, чтобы действительно понять и исправить неэффективность.
Когда вы ищете области, в которых можно использовать ИИ, помните, что сам по себе ИИ не может исправить ваши операции. Кроме того, он не может исправить ваши операции в одночасье, даже если сосредоточиться на улучшении процессов.
3. Работа в бункере
Конечно, ваша команда по науке о данных может завершить проект ИИ без какой-либо посторонней помощи. Однако что произойдет, если конфигурация системы не будет соответствовать потребностям вашего бизнеса?
Мы рекомендуем с самого начала включить в проект ваш операционный персонал. Сюда входят, в частности, инженеры-технологи, операторы установок и менеджеры складов. Это люди, которые понимают данные и их бизнес-контекст.
4. Ставить технологии выше людей
Это правда, что ИИ — захватывающая технология. Однако легко настолько зациклиться на технологиях, что вы забудете о том, что их используют реальные люди.
Проект ИИ часто может вызвать чувство беспокойства в ваших отделах, особенно среди сотрудников, которые опасаются, что технология может уменьшить или даже заменить их роль. Без сосредоточения внимания на управлении организационными изменениями эти беспокойные сотрудники не захотят изучать и использовать новое программное обеспечение.
Заключение
В этой статье мы рассмотрели десять основных проблем, которые могут помешать вашей организации достичь целей ИИ, а также наметили некоторые полезные решения для таких препятствий. Чем раньше вы сможете решить эти проблемы с помощью ИИ, тем больше у вас будет шансов эффективно использовать технологии искусственного интеллекта во всех областях вашего предприятия.
