Человеческое или когнитивное искажение представляет собой систематическую ошибку, влияющую на суждения и решения, принимаемые людьми. Такая ошибка возникает при обработке и интерпретации данных и информации. Природа смещения связана с упрощенным подходом нашего мозга.

Наоборот, машинное обучение — это область искусственного интеллекта, которая генерирует статистические модели и должна помочь исключить эту ошибку. Давайте посмотрим, является ли это утверждение обоснованным и действительно ли машинное обучение может стать полезным инструментом в преодолении человеческого предубеждения.

Источники и природа когнитивных искажений

По определению, у машин нет смещения. По крайней мере, не на нынешнем этапе их разработки. Однако в машинном обучении между этапами создания алгоритма и интерпретации данных возникает предвзятость, связанная с человеческим фактором. Исследование выявило подавляющее количество типов когнитивных искажений, таких как ошибка конъюнкции и эвристика репрезентативности, непонимание «и», эвристика усреднения, ошибка дизъюнкции и многие другие.

Эти типы когнитивных искажений ухудшают машинное обучение. Например, предвзятость подтверждения, подразумевающая принятие убеждений, основанных на подтверждении предыдущих убеждений, и принцип доступности, предполагающий акцент на информации, относящейся к человеку, отрицают интерпретацию машинного обучения данных.

Когнитивное искажение, становящееся частью модели машинного обучения, сводит на нет ее эффективность в долгосрочной перспективе. Сложность решения вопросов, связанных с человеческим предубеждением в машинном обучении, связана с необходимостью связать области когнитивной психологии и машинного обучения. Таким образом, предварительное исследование, объединяющее убедительные данные из обеих областей, должно решить основные вопросы проектирования системы.

Последствия человеческого предубеждения для машинного обучения

Негативные последствия человеческой предвзятости подразумевают широкий спектр проблем для машинного обучения. Эти последствия можно разделить на две основные категории:

  • Влияние.Результаты, получаемые с помощью современных технологий, обычно являются синонимами фактов по их точности и уровню доверия со стороны широкой публики. Однако результаты, полученные с помощью машинного обучения с человеческим уклоном, будут содержать значительные ошибки. Таким образом, со временем они будут усугубляться из-за их наиболее вероятной универсальной реализации.
  • Автоматизация.Дальнейшая автоматизация моделей ИИ будет означать интеграцию лежащих в их основе когнитивных искажений, реализованных на этапе машинного обучения.

Эти последствия требуют адекватных решений, в том числе тщательной оценки существующих типов предубеждений для реализации соответствующих превентивных механизмов.

Избегание предвзятости человека

Последствия человеческого предубеждения в машинном обучении будут варьироваться от этических проблем до потенциально значительного финансового ущерба для компаний. Следовательно, основные вопросы проектирования системы должны отражать решения, управляющие предвзятостью в машинном обучении.

Первое решение – выбор подходящей модели обучения. Модели обычно уникальны в зависимости от конкретного случая применения. Тем не менее, можно определить конкретные параметры, которые могут увеличить риск присутствия предвзятости, связанной с человеческим фактором. Например, модели обучения с учителем и без учителя имеют свои преимущества и недостатки. Модели с учителем могут обеспечивать более высокую степень контроля над выбором данных, а также демонстрировать более высокую степень риска, связанного с появлением когнитивной предвзятости. Непредвзятое игнорирование является частью первого решения, требующего исключения конфиденциальной информации из модели. Его уязвимость связана с изменчивостью проблем. Общение с дата-сайентистами на ранних этапах для исключения когнитивной предвзятости облегчает выбор подходящей модели обучения.

Второе решение требует выбора репрезентативного набора данных. При отборе данных для обучения необходимо убедиться, что они достаточно разнообразны. Модель должна включать различные группы, поддерживая при этом сегментацию данных. Решение может потребовать разработки отдельных моделей для разных групп.

Третье решение предполагает мониторинг производительности с использованием реальных данных. Невозможно проверить модель машинного обучения на предвзятость исключительно в контролируемой среде. Такой подход не сможет решить основные вопросы проектирования системы. Моделирование реальных приложений при построении алгоритмов снижает риски, связанные с человеческой предвзятостью.

Нормативно-правовая база

В дополнение к компаниям и исследователям, пытающимся свести к минимуму человеческий фактор в машинном обучении, различные комитеты и организации формируют международные органы, устанавливающие стандарты для искусственного интеллекта. Международная организация по стандартизации (IOS) и Международная электротехническая комиссия (МЭК) сформировали совместный технический комитет ISO/IEC JTC 1. Комитет уделяет особое внимание безопасности, безопасности, конфиденциальности, точности, надежности, отказоустойчивости и надежности искусственного интеллекта. . Такие усилия по стандартизации должны поддерживать усилия, сводя к минимуму присутствие человеческого фактора. Кроме того, IEC является одним из основателей OCEANIS, который занимается вопросами этики в автономных системах. Основная цель организации — обеспечить, чтобы машины следовали человеческим ценностям и логике, избегая при этом их предвзятости.

Будущее машинного обучения

Становится очевидным, что машинное обучение будет продолжать развиваться с внедрением новых технологий. В то же время уже не только Google, Facebook и другие сопоставимые технологические гиганты могут позволить себе разработку искусственного интеллекта с использованием машинного обучения. Компании поменьше, такие как Scale AI, получают финансирование на разработку собственного искусственного интеллекта. Эти тенденции предполагают необходимость дальнейшей стандартизации в отрасли, поскольку потенциал негативных последствий будет значительным.

Машинному обучению необходимо будет преодолеть человеческие предубеждения для их успешного внедрения в различных областях. Искусственный интеллект находит свое применение в сферах, оказывающих непосредственное влияние на жизнь человека, например, в медицине. В этом свете машинное обучение не должно содержать элементов когнитивного искажения при их полном включении. Будущее искусственного интеллекта зависит от успешного результата совместных усилий.

Первоначально опубликовано на https://www.dewsolutions.in 27 сентября 2019 г.