Так много компаний, занимающихся цифровой трансформацией, пристально следят за ИИ. Но когда они это делают, некоторые нервничают, когда слышат о том, что кажется проблемой в ИИ: предвзятость. Во-первых, давайте определимся с нашими терминами (как Кэсси Козырков любезно объяснила предвзятость в ИИ):
Алгоритмическая ошибка возникает, когда компьютерная система отражает неявные ценности людей, которые ее создали.
Поскольку гражданские беспорядки поражают города в США, Канаде и Европе, другое, уродливое, негативное значение предвзятости - привлекает много внимания. В последние годы кажется, что даже ИИ тоже предвзято - либо копирует определенные предубеждения, которых мы придерживаемся, либо преувеличивая их.
ИИ обрабатывает данные в таких огромных объемах, превышающих человеческие возможности, что мы застряли, не зная: почему ИИ выбрал А вместо Б?
Соучредитель Apple Стив Возняк получил более высокий кредитный рейтинг, чем его жена, несмотря на то, что у него были те же активы и банковские счета, что предполагает, что алгоритм обошелся с ней несправедливо. Было ли это - или у нее был плохой предыдущий кредит? Было обнаружено, что компания Predpol, занимающаяся прогнозированием, направляет полицию в несправедливо нацеленные на районы проживания расовых меньшинств. Но PredPol использует только преступления, о которых сообщают жертвы - так что, даже если бы полицейские были предвзяты, это не повлияло бы на математику, которую использует ИИ…
Проблема? Даже создатели этих алгоритмов не могут объяснить, что происходит внутри коробки.
У меня есть предложение. На данный момент забудьте о предвзятости ИИ. Фактически, забудьте об ИИ. Спросите себя, как вы приносите пользу своим клиентам? По мере обучения вы думаете о более значимых для вашего бизнеса вопросах. Это поможет вам понять, какие данные нужно собирать для достижения желаемого результата.
В противном случае ИИ не поможет вам решить вашу проблему. Ответ будет 42.
Нравится то, что вы только что прочитали?
- Получайте рассылку Recurrent Patterns в свой почтовый ящик.
- Получите платную подписку на Medium, чтобы получить доступ ко всем статьям. Подпишитесь сегодня