Так много компаний, занимающихся цифровой трансформацией, пристально следят за ИИ. Но когда они это делают, некоторые нервничают, когда слышат о том, что кажется проблемой в ИИ: предвзятость. Во-первых, давайте определимся с нашими терминами (как Кэсси Козырков любезно объяснила предвзятость в ИИ):

Алгоритмическая ошибка возникает, когда компьютерная система отражает неявные ценности людей, которые ее создали.

Поскольку гражданские беспорядки поражают города в США, Канаде и Европе, другое, уродливое, негативное значение предвзятости - привлекает много внимания. В последние годы кажется, что даже ИИ тоже предвзято - либо копирует определенные предубеждения, которых мы придерживаемся, либо преувеличивая их.

ИИ обрабатывает данные в таких огромных объемах, превышающих человеческие возможности, что мы застряли, не зная: почему ИИ выбрал А вместо Б?

Соучредитель Apple Стив Возняк получил более высокий кредитный рейтинг, чем его жена, несмотря на то, что у него были те же активы и банковские счета, что предполагает, что алгоритм обошелся с ней несправедливо. Было ли это - или у нее был плохой предыдущий кредит? Было обнаружено, что компания Predpol, занимающаяся прогнозированием, направляет полицию в несправедливо нацеленные на районы проживания расовых меньшинств. Но PredPol использует только преступления, о которых сообщают жертвы - так что, даже если бы полицейские были предвзяты, это не повлияло бы на математику, которую использует ИИ…

Проблема? Даже создатели этих алгоритмов не могут объяснить, что происходит внутри коробки.

У меня есть предложение. На данный момент забудьте о предвзятости ИИ. Фактически, забудьте об ИИ. Спросите себя, как вы приносите пользу своим клиентам? По мере обучения вы думаете о более значимых для вашего бизнеса вопросах. Это поможет вам понять, какие данные нужно собирать для достижения желаемого результата.

В противном случае ИИ не поможет вам решить вашу проблему. Ответ будет 42.

Нравится то, что вы только что прочитали?