Одна из первых вещей, о которых читает каждый, кто знакомится с машинным обучением (ML), — это печально известный алгоритм преступного рецидивизма COMPAS, наиболее известный тем, что применяет расовые предубеждения к рекомендациям по вынесению приговоров в тюрьме. Это стало олицетворением исторической предвзятости, неэтичного узкого ИИ и опасностей черного ящика. Тем не менее, это далеко не самая разрушительная или, если уж на то пошло, самая известная система ИИ, применяющая сегодня..