«Перевод» часто считается очень хорошим примером, объясняющим, как автоматизация ИИ может упростить жизнь людей. И хотя автоматизация может быть хорошей, понимаем ли мы, как предубеждения, лежащие в основе создания этих систем, могут повлиять на мир?
Я делюсь увлекательным упражнением, которое я выполнил в бизнес-школе искусственного интеллекта Microsoft и стал свидетелем того, как предубеждения могут исказить искусственный интеллект. Осознание предвзятости в наших алгоритмах — это первый шаг к ее устранению и созданию справедливого ИИ. Ниже приведены пошаговые инструкции о том, как вы можете проверить, что предвзятость ИИ реальна.
1- Воспользуйтесь переводчиком Google, чтобы перевести предложение «Она врач» на турецкий язык.
2- Теперь переведите результаты на турецком языке обратно на английский язык.
3- Результаты. Что вы получили?
Третий шаг показывает, что перевод предложения изменил значение на «Он врач». Конечно, это не лучшее упражнение для Международного женского дня 2020 года.
Точки обучения:
Это упражнение показывает нам, как предубеждения при создании системы могут изменить смысл всего предложения. Если кто-то не знает, что местоимения, используемые в турецком языке, нейтральны в гендерном отношении, то содержание может легко ввести их в заблуждение. Для всех нас очень важно убедиться, что наши модели на 100% свободны от каких-либо предубеждений. Google Translate не дает объяснения, что в турецком языке нет местоимений он/она. На первой странице приложения «Перевод» об этом не сообщается. Так что, если кто-то, кто не знает турецкого языка и использует инструмент перевода для работы, вероятно, в конце своего контента будет использовать перевод «Она врач» как «Он врач». Это может быть очень небольшое изменение, но влияние на повествование постепенно снижается… Это небольшие факторы, которые могут способствовать разрыву в оплате труда, отсутствию равных возможностей и т. д.
Пишите в комментариях, если у вас есть другие примеры предвзятости системы ИИ.
