Публикации по теме fairness-and-bias

Публикации по теме 'fairness-and-bias'

Основы LIME и SHAP

Интуитивное объяснение того, как работают эти современные методы XAI Это третья часть серии под названием «Объяснимый ИИ для обычного человека». В этой части я постараюсь предоставить общий обзор типичных стратегий, используемых для объяснения алгоритмов ИИ. Остальные части доступны здесь: Часть 1. Что такое объяснимый ИИ и зачем он нам нужен? Часть 2: Типы объяснимого ИИ (XAI) Часть 4. Создание XAI для распознавания активности: умный дом, который разговаривает со своими..

Узнайте, является ли ваша модель ML чемпионом справедливости, используя «Aequitas».

«Единственные два случая, когда мы думаем о справедливости модели машинного обучения, — это либо в классе машинного обучения, либо когда кто-то подает иск против нашей компании». Это заявление одного из ассистентов на моем курсе Машинное обучение в производстве здесь, в Университете Карнеги-Меллона , задело меня за живое. Есть ли проблема? Как специалисты по данным, мы часто зацикливаемся на точности нашей модели или на том, сколько $ наша компания зарабатывает на ней, но..

Справедливый мир в моделировании машинного обучения, где к мужчинам и женщинам следует относиться одинаково

Справедливость и предвзятость Справедливый мир в моделировании машинного обучения, где к мужчинам и женщинам следует относиться одинаково Исследование гендерной справедливости моделей машинного обучения, обученных на базе данных UCL Adult Задний план К сожалению, в мире, в котором мы живем, когда-то доминировали всевозможные стереотипы и дискриминация - расовая, гендерная, ориентация и т.д. равенство. Однако в течение долгого времени эти невежественные предрассудки серьезно..

Обнаружение и устранение предвзятости в IBM AutoAI

Автор: Лукаш Цмеловски, доктор философии , Дорота Лончак , Пшемыслав Чуба В моих предыдущих статьях я показал, как мы можем использовать AutoAI, чтобы легко находить лучшие модели машинного обучения. Но угадайте, что: это становится еще лучше. С этого момента вы можете использовать AutoAI для автоматической оценки моделей на предмет справедливости и устранения предвзятости. Понятия и определения Прежде чем мы перейдем к мельчайшим деталям, нам нужно начать с определения..

Предвзятый ИИ, взгляд под капот

Что именно происходит в системах ИИ, страдающих от предубеждений? Проблема предвзятости в области искусственного интеллекта (ИИ) в последнее время вызвала много негативных заголовков. Отчеты показали, что системы ИИ могут непреднамеренно дискриминировать чувствительные подгруппы. Например, было обнаружено, что система набора персонала на базе искусственного интеллекта международной технологической компании систематически отдает предпочтение кандидатам-мужчинам, а не женщинам. В этой..

Используете AI? Вы можете начать проводить оценку воздействия на права человека (HRIA)

Справедливость и предвзятость Используя ИИ? Вы можете начать проводить оценку воздействия на права человека (HRIA) Уроки европейской дискуссии о цели регулирования ИИ В недавнем посте я сделал несколько прогнозов того, как администрация Байдена может изменить игровое поле ИИ. Главный вывод заключается в том, что регулирование ИИ произойдет раньше, чем вы думаете, и что вам лучше начать подготовку с внедрения внутреннего управления ИИ. Если вы работаете в Северной Америке,..

Иди вперед, измени мой (ИИ) разум

Справедливость и предвзятость Иди вперед, измени мой разум (ИИ) Агентство как недостающий ингредиент в дебатах о справедливости ИИ. Вы когда-нибудь пытались изменить чье-то мнение? Конечно, есть. В конце концов, это основная цель общения. Это также невероятно сложно. Еще труднее, когда дело доходит до глубоко укоренившихся политических, религиозных или социальных убеждений, которые сформировали нас, потому что они, как правило, связаны с нашей собственной идентичностью...