Лидия Т. Лю, Сара Дин, Эстер Рольф, Макс Симховиц и Мориц Хардт в Отложенном влиянии справедливого машинного обучения справедливо отмечают, что при рассмотрении понятий справедливости крайне важно рассматривать их динамически с точки зрения их долгосрочного воздействия на население, а не только статически. Они утверждают, что, казалось бы, привлекательные и справедливые правила принятия решений в конечном итоге могут навредить группам, находящимся в неблагоприятном положении. Они рассматривают в элегантных математических деталях случай решений о займах, утверждая, что такие правила, как Принимать одинаковую долю заявителей от каждой расы или Иметь одинаковую долю истинно положительных результатов от каждой расы при предоставлении займов, даже если это означает принятие большего количества ложных срабатываний могут снизить кредитный рейтинг пострадавшего населения в долгосрочной перспективе, если существуют определенные комбинации параметров. Таким образом, при установлении правил справедливости требуется динамически ориентированный подход, который учитывает долгосрочное влияние различных правил на множество итераций, а не просто решает, что кажется справедливым на статическом снимке. Авторы не просто предлагают подход laseiz faire без позитивных действий, а предлагают более тонкий подход к справедливости, основанный на учете долгосрочных последствий.

Я не согласен ни с чем из этого, однако я чувствую, что авторы, возможно, попали в ту самую ловушку, которую они описывают, думая статически, а не динамично. В частности, государственная политика, такая как требования справедливости для банков, не только влияет на групповые кредитные рейтинги, но и влияет на практическое значение этих групповых кредитных рейтингов. При некоторых режимах регулирования для группы гораздо хуже иметь средний кредитный рейтинг, чем при других режимах регулирования. Рассмотрение влияния среднего кредитного балла на группу как стабильное между различными режимами приведет к ошибкам.

Предположим, что существует законодательство, согласно которому каждый банк обязан принимать одинаковую долю заявителей каждой расы. Я согласен с тем, что вполне возможно, что это снизит средний кредитный рейтинг неблагополучных рас. Однако авторы, похоже, не учли, что вследствие этого законодательства средний кредитный рейтинг малообеспеченной группы имеет гораздо меньшее значение. Влияние среднего кредитного балла на полезность группы само по себе не является постоянным для различных режимов регулирования. Одним из основных способов влияния более низкого среднего кредитного балла на группу является сокращение доступа этой группы к кредитам. средний кредитный рейтинг одной расовой группы, потому что в соответствии с этим режимом регулирования средний кредитный рейтинг не имеет большого значения. По сути, в этом режиме важен ваш ранг по сравнению с другими претендентами из вашей группы.

Я не говорю, что это оправдание правила принятия решений «Принимать равное количество претендентов от всех рас», я уверен, что есть и другие возражения против этого правила, например, это может увеличить частоту травм. банкротства. Я хочу сказать, что до тех пор, пока правило применяется последовательно, его влияние на средний кредитный рейтинг группы не будет иметь большого значения, потому что само существование этого политического режима делает средний кредитный рейтинг группы менее значимым.

Я думаю, что разница между мной и авторами здесь, возможно, заключается в том, что авторы имели в виду ситуацию, когда один банк в одностороннем порядке устанавливает правила справедливости для себя, поэтому влияние такой политики на средний кредитный рейтинг группы с течением времени будет быть очень важным, поскольку другие банки могут не применять подобную политику справедливости. Я, с другой стороны, в первую очередь рассматриваю влияние государственной политики. Я согласен с тем, что банк, рассматривающий возможность установления такой политики ради справедливости, должен тщательно взвесить последствия своих действий, но я считаю маловероятным, чтобы отдельный банк — организация, максимизирующая прибыль — стал бы устанавливать такую ​​жесткую политику справедливости, как «Принять равное количество претендентов от каждой расы». Если такая политика будет проводиться, она, вероятно, будет проводиться правительством под давлением затронутых групп, поэтому я считаю целесообразным рассматривать такую ​​политику в первую очередь с точки зрения действий правительства.