Алгоритмы объявлений о вакансиях Facebook давали искаженные результаты, даже если работодатель намеревался охватить демографически сбалансированную аудиторию. Даже когда рекламодатели не выбирали демографические данные, Facebook запоминал и закреплял существующие демографические различия. (Источник WSJ)
Сегодня искусственный интеллект широко распространен в повседневных технологиях, и ожидается, что в будущем он станет еще более распространенным. В то время как ИИ учится у своих тренеров-людей и имитирует их, учитывая, что обучение, которое он достигает за более короткую продолжительность по сравнению с человеком, и обучение, основанное исключительно на данных и моделях, ИИ может усилить определенное поведение за относительно более короткое время.
Из множества таких вопросов этот сборник посвящен гендерным предрассудкам. Традиционная гендерная предвзятость была наиболее заметна в описании профессии. С расширением использования ИИ гендерная предвзятость может отразиться на информационных областях, таких как социальные сети, новостные ленты, на более важные области, такие как решения о медицинском обслуживании, на решения о дизайне продукта, такие как безопасность подушки безопасности.
По мере того, как ИИ становится всепроникающим и потенциальные предубеждения могут потенциально нарушить варианты использования, которые они обслуживают, для разработчиков становится крайне важным выявлять и исправлять любые предубеждения в своих моделях. Несмотря на то, что область обширна и ведется значительная работа, Канди составил краткий список нескольких библиотек, которые помогут вам распознать и устранить гендерные предубеждения. Если вы ищете более простые автономные варианты использования для экспериментов, гендерная предвзятость от гендерной предвзятости, коррекция предвзятости катализатора от EskaleraInc, детектор предвзятости от intuit, служба Catalyst-Slack от willowtreeapps, визуализация гендерной предвзятости от GesaJo может помочь вам с вариантами использования, от обнаружения предвзятости до визуализации и плагинов автокоррекции НЛП. Если вы ищете решение кореферентности, ориентированное на гендерную предвзятость, попробуйте corefBias от uclanlp, winogender-schemas от rudinger. Для более глубокого обзора моделей, данных, меток, доменов и проверки неконтролируемой систематической ошибки попробуйте CausalMediationAnalysis от sebastian Gehrmann, Balanced-Datasets-Are-Not-Enough от uvavision, unsupervised_gender_bias от anjalief, GeBNLP2019 от alfredomg. Наконец, популярный инструмент аудита ваших моделей — Fairml от adebayoj.
Коллекция канди: устранение гендерных предубеждений в ИИ
Для других вариантов использования найдите повторно используемые компоненты приложения на kandi.openweaver.com.
Удачного повторного использования!
