Предвзятость — это ИИ, но предвзятость в ИИ.

Короче говоря, от ИИ к ответственному ИИ.

В этой статье мы исследуем 3 вещи:

Что такое предвзятость?
Что такое ИИ?
и почему ИИ не должен быть предвзятым.

Давайте быстро опишем предвзятость, какой мы ее знаем. Предвзятость — это предпочтение чего-то чему-то другому.

Пример?

Возьмем университет, который принимает решение о зачислении абитуриента на основании его результатов по математике и английскому языку. Теперь, если абитуриент подает заявку на получение технической степени, университет предпочтет его баллы по математике, а не баллы по английскому языку. В этом случае у университета есть предвзятость к их баллам по математике. Если абитуриент подает заявление на получение степени по литературе, университет отдаст предпочтение баллу абитуриента по английскому языку, а не его баллу по математике. В этом случае они предвзято относятся к своей оценке по английскому языку.

Это предубеждения. Они играют важную роль в принятии любых решений.

В случае технического приема университет может весить балл по математике в 2 раза больше, чем балл по английскому языку. Т.е. Предвзятость к математике = 2 и предвзятость к английскому языку = 1.

Различное взвешивание входных баллов в зависимости от степени помогает университету принимать более подходящих абитуриентов.

Теперь, когда мы знаем предвзятость, мы можем вкратце понять ИИ.

ИИ можно рассматривать как систему принятия решений. И что является требованием любой системы принятия решений? Предвзятость.

На самом деле ИИ — это предвзятость. Все, что делает ИИ, — это определяет предвзятость (или вес) каждого входа при принятии решения (прогноза).

Тогда зачем искусственный интеллект, если мы, умные люди, можем только определять вес?

Потому что ИИ может сделать это лучше.

Возьмем тот же пример, упомянутый ранее. Для получения технической степени университет, управляемый людьми, решил взвесить балл по математике в 2 раза больше, чем балл по английскому языку. Хотя это может быть лучше, чем равное рассмотрение оценок по математике и английскому языку, это не оптимально.

Как сделать его оптимальным? т. е. как можно выбрать предубеждения (или веса) так, чтобы процесс принятия решения был максимально качественным?

Использование ИИ.

Используя ИИ, можно построить модель, которая может определить идеальное смещение (веса) по математике и английскому языку. Это гарантирует, что будут допущены только наиболее подходящие кандидаты.

Мы можем сделать это, передав данные в модель ИИ и обучив ее.

В нашем примере эти данные будут включать баллы по математике и английскому языку всех абитуриентов, подавших заявки ранее, а также решение университета об их зачислении.

Модель ИИ просматривает прошлые данные и понимает баллы, которые имеют ранее допущенные кандидаты.
Затем модель определит оптимальные веса для оценок по математике и английскому языку.
Используя это, модель будет предсказывать, следует ли допустить нового кандидата.

Таким образом, все, что делает ИИ, — это обеспечивает смещения (или веса) для входных данных на основе прошлых данных, чтобы создать оптимальную систему принятия решений.

Теперь, когда мы знаем, что такое предвзятость и почему ИИ — это всего лишь моделирование предвзятости, мы можем понять, что такое предвзятая модель ИИ.

Ответственный ИИ — горячая тема сегодня. Важной целью ответственного ИИ является обеспечение того, чтобы при моделировании ИИ не возникало предвзятости. Но если ИИ — это предвзятость, то что такое предвзятость в ИИ?

Вернемся к примеру с университетом. На самом деле, мы можем назвать университет — университет «Б».

Университет «Б» разрабатывает модель ИИ на основе прошлых данных. Поскольку эта модель будет использоваться для определения приема, входные данные более разнообразны, чем просто баллы по математике и английскому языку. Допустим, мы вводим больше справочной информации о заявителе — о его семье, школе, в которой он учился и т. д.

Предположим, что по какой-либо причине университет «Б» исторически принимал абитуриентов с определенным семейным прошлым (например, только богатые студенты). Эта информация будет присутствовать в данных, которые передаются модели ИИ для обучения. Как только модель ИИ будет развернута, она начнет принимать более высокий процент богатых студентов и будет считать их достойными получения степени.

Другими словами, модель будет смещена в сторону богатых студентов.

Это нормально?

Можно утверждать, что смысл ИИ в том, чтобы иметь эту предвзятость. Фактически, модель проделала хорошую работу по пониманию правильного веса (смещения) для этих данных.

Но эта модель не справилась с тем, для чего предназначалась — принять студентов, наиболее подходящих для получения технической степени.

Следовательно, это неправильно как потому, что это не оптимально, так и потому, что это аморально (в данном случае).

Что же такое предвзятость в ИИ?

Если цель ИИ — определить предвзятость, то предвзятость в ИИ — это предвзятость.

Предвзятость хорошая. Это то, чего мы хотим. Нам нужно оптимальное решение для приема нужных студентов.

Предвзятость — это плохо. Мы станем субоптимальными и даже аморальными.

И когда мы говорим об ответственном ИИ и предвзятости в ИИ, мы имеем в виду предвзятость.

Как нам стать более ответственными?

Мы можем попытаться устранить предвзятость и понять внутреннюю модель ИИ.

Распространенным смещением, которое происходит, является смещение набора данных. то есть прошлые данные, которые передаются модели для обучения, сами по себе предвзяты, как в примере, который мы видели.

Мы можем быть более ответственными, выявив это предубеждение и устранив его.

Например, мы могли провести анализ предыдущих данных и понять, что семейное происхождение играет роль при поступлении. Таким образом, мы можем удалить семейный фон в качестве входных данных, прежде чем подавать его в модель.

Выполнение даже этих простых шагов гарантирует, что мы уменьшим систематическую ошибку в нашем наборе данных.

Подводя итог, мы рассмотрели, что такое предвзятость, как ИИ моделирует оптимальную предвзятость и что такое предвзятая модель.

Перейдите по ссылкам ниже, чтобы узнать больше об ответственном искусственном интеллекте.

Предвзятость — это ИИ, но предвзятость в ИИ.

Вопросы по теме