Если вы не белый, алгоритмы машинного обучения могут стать смертным приговором. Эта статья также является частью публикации Tech in Policy . TIP фокусируется на использовании технологий во благо и проливает свет на их более злонамеренные или небрежные реализации. Независимо от того, знаете вы или нет, ваши поисковые запросы в Google, вопросы, заданные Siri, и хронология Facebook - все это зависит от искусственного интеллекта (ИИ) для эффективной работы. Искусственный интеллект..

Ключевые выводы После оценки модели я обнаружил, что наиболее важными факторами для прогнозирования трудностей с оплатой были (1) цена товаров, на которые был запрошен кредит, и (2) количество дней, в течение которых заявитель работал. Демографические факторы, такие как пол, доход или род занятий, не имели большого значения для прогнозирования трудностей с оплатой. Модель имела тенденцию преувеличивать любые небольшие тенденции в обучающих данных. Могут быть опасные социальные..

Компромисс человеческого предубеждения и точности Понимание того, как исторические данные могут привести к алгоритмическому смещению на наивном примере модели прогнозирования компенсации Быть человеком - значит быть предвзятым? Предубеждение - это тенденция или склонность к предпочтению или нежеланию одного набора над другим. У всех людей есть определенная степень предвзятости, потому что мы по своей сути запрограммированы на распознавание любого другого как угрозы...