Я не думаю, что это правильно, строго говоря. Это правда, что виды предубеждений, присущие алгоритмам, не всегда могут привести к определенному социально значимому предубеждению, подобному тому, которое вы здесь обсуждаете. Но любой алгоритм, который делает что-то кроме случайного поиска решений, так или иначе предвзят. Например, алгоритм, который находит кластеры, ориентирован на поиск кластеров и будет делать это даже для равномерно распределенных данных.
Поскольку алгоритм, который просто случайным образом ищет решения, слишком медленный, чтобы быть полезным, это фактически означает, что все полезные алгоритмы предвзяты. Предвзятость — это то, что делает их полезными в первую очередь.
Я не уверен, как такого рода предубеждения взаимодействуют с более социально значимыми формами предубеждений, которые справедливо беспокоят людей. Но я думаю, что было бы ошибкой недооценивать степень предвзятости самих алгоритмов. Вместо этого мы должны тщательно различать (как вы делаете здесь повсюду!) между источниками предвзятости. В этом случае кажется маловероятным, что виноват сам алгоритм, но в других случаях это может быть.
