- Уравненные шансы не равны индивидуальным шансам: постобработка для групповой и индивидуальной справедливости (arXiv)
Автор: Эдвард А. Смолл, Кацпер Сокол, Дэниел Мэннинг, Флора Д. Салим, Джеффри Чан
Аннотация: Групповая справедливость достигается за счет выравнивания распределений прогнозов между защищенными подгруппами; индивидуальная справедливость требует одинакового отношения к одинаковым людям. Однако эти две цели несовместимы, когда модель оценки калибруется с помощью прерывистых функций вероятности, когда людям может быть случайным образом назначен результат, определяемый фиксированной вероятностью. Эта процедура может предоставить двум похожим лицам из одной и той же защищенной группы несопоставимо разные шансы классификации, что является явным нарушением индивидуальной справедливости. Назначение уникальных шансов каждой защищенной подгруппе может также помешать членам одной подгруппы когда-либо получить равные шансы на положительный результат с другой, что, по нашему мнению, является еще одним типом несправедливости, называемым индивидуальными шансами. Мы согласуем все это, построив непрерывные функции вероятности между групповыми порогами, которые ограничены их константой Липшица. Наше решение сохраняет прогнозирующую силу модели, индивидуальную справедливость и надежность, обеспечивая при этом групповую справедливость.
2. К уравненным шансам как показателю справедливости в прогнозировании академической успеваемости (arXiv)
Автор: Янник Дункелау, Мань Хой Дуонг.
Аннотация: В литературе по машинному обучению с учетом принципа справедливости известно множество различных понятий справедливости. Однако общеизвестно, что удовлетворить их все невозможно, поскольку некоторые понятия противоречат друг другу. В этой статье мы более подробно рассмотрим системы прогнозирования академической успеваемости (APP) и попытаемся определить, какие понятия справедливости больше всего подходят для этой задачи. Для этого мы просматриваем недавнюю литературу, предлагающую рекомендации относительно того, какое понятие справедливости использовать, и применяем эти рекомендации к APP. Наши результаты показывают, что уравнивание шансов является наиболее подходящим понятием для APP, основываясь на мировоззрении APP WYSIWYG, а также на потенциальных долгосрочных улучшениях для населения.
