Методы машинного обучения объективны и «демократичны», мажоритарны. Алгоритмы обучаются на данных из истории, и если что-то верно в большинстве случаев, система помечает это как верное.
В случае, если ML узнает, что выпускники определенного колледжа всегда успешно проходят собеседование в фирме, система учится отдавать предпочтение резюме из колледжа. Остальные остаются позади. В то время, когда мы только пытаемся избавиться от менталитета массового производства в образовании, усугубит ли ОД проблемы или улучшит ситуацию?
Исключения и упущенные возможности
В случае, если есть суперталантливый человек, у которого нет диплома, но есть доказанный опыт творения чудес, алгоритм машинного обучения пропустит его. Конечно, это всего лишь пример, и это исключение можно обойти. Но в целом фирмы проигрывают по разнообразию и талантам. На самом деле, алгоритм ML всегда должен пропускать исключения, а также исключительные вещи.
История несет в себе предубеждения
Пока системы используют данные из истории, а история демонстрирует предвзятость, машинное обучение, скорее всего, будет воспроизводить предвзятость. Если исторически женщины никогда не считались подходящими для работы, ML не выберет женщину для этой работы.
Философствуем — Откуда у истории будущее?
Мир менялся с ускорением. Если машинное обучение будет учиться на основе истории, будем ли мы, человечество, замедлять текущую скорость и соответствовать истории.
Большое зло?
Будет ли такое поведение ограничивать творчество и новизну? Будет ли оказываться сильное давление на учащихся, чтобы они соответствовали общим стандартам вместо того, чтобы быть новаторскими, исключительными и особенными?
Опубликуйте свои мысли. Приглашение HR и руководителей для комментариев.
