В последние годы финансовая доступность была ключевым термином в каждой дискуссии об инклюзивном и этичном экономическом развитии. Появляются новые формы финансовых учреждений, которые быстро завоевывают доверие общественности, внедряя новейшие технологии для своих банковских услуг, такие как искусственный интеллект (ИИ), децентрализованные технологии, квантовые вычисления и т. д.

Остается вопрос, нужно ли этим банкам устанавливать моральный кодекс для использования ими технологий, особенно в практике ИИ. Прежде чем попытаться ответить на основной вопрос, давайте кратко рассмотрим несколько основных нарративов.

Финансовая доступность: определение и цели

Как следует из самого названия, финансовая доступность или инклюзивное финансирование относится к усилиям по обеспечению широкой доступности финансовых услуг для каждого человека и бизнеса. Проще говоря, независимо от размера компании или чистого дохода физического лица, каждый должен иметь право пользоваться банковскими продуктами. Политики устанавливаются для устранения любых барьеров, которые могут помешать присоединиться к банковскому сообществу.

«Бедность лишает людей хоть какого-то подобия контроля над своей судьбой, это полное нарушение прав человека. Принятыми правами человека являются пища, кров, здоровье и образование, и основная ответственность общества состоит в том, чтобы убедиться, что существует среда, в которой люди могут иметь все это. Крупные финансовые институты в настоящее время игнорируют почти две трети населения мира. Поэтому я говорю, что право на кредит должно иметь самый высокий приоритет в списке прав человека». —лауреат Нобелевской премии мира Мухаммад Юнус

На микроуровне доступ к финансовым услугам направлен на улучшение жизни человека за счет упрощения и повышения эффективности финансовых процессов. По данным Всемирного банка, финансовая доступность «облегчает повседневную жизнь и помогает семьям и предприятиям планировать все, от долгосрочных целей до неожиданных чрезвычайных ситуаций».

Таким образом, инклюзивное финансирование направлено на выполнение общей миссии по сокращению бедности и развитию экономики путем создания плавного и сильного финансового потока внутри страны. Это означает, что финансовая доступность тесно связана с финансовым развитием, которое обычно измеряется количеством людей, владеющих и использующих финансовые продукты.

Доступ к финансовым услугам: текущее состояние в мире

В последнее десятилетие в финансовом развитии наблюдается восходящая тенденция. Глобальная база данных Findex за 2017 год указывает, что процент взрослых, имеющих учетную запись в финансовом учреждении или мобильной компании, неуклонно растет с 51% в 2011 году до 62% в 2014 году и 69% в 2017 году.

В таких странах, как Китай, Кения, Индия и Таиланд, около 80% населения уже имеют счета. Стратегия, стоящая за этим впечатляющим показателем, заключается в проведении реформ, использовании инноваций частных компаний и поощрении частных лиц открывать недорогие счета для мобильных и цифровых транзакций. Следующим шагом для этих стран является повышение доли реальных пользователей финансовых услуг среди владельцев счетов.

Количество людей, не имеющих банковского счета, сократилось с 2 миллиардов в 2014 году до 1,7 миллиарда в 2017 году. Однако эти люди, не пользующиеся банковскими услугами, по-прежнему составляют почти треть взрослого населения мира; большинство из них — безработные женщины или женщины, проживающие в сельской местности. Гендерный разрыв составляет 9% в развивающихся странах, что означает, что женщины не могут контролировать свои финансовые средства к существованию. Статистика также показывает, что более высокая степень гендерного равенства наблюдается в странах с более широким доступом к электронным деньгам через мобильные телефоны.

Доступ к финансовым услугам: продвижение стратегий

Несколько факторов влияют как на уровень финансовой доступности, так и на развитие страны, включая доход на душу населения, государственное управление, качество институтов, доступность информации и нормативно-правовую базу. Неудивительно, что существует заметная разница между развитыми и развивающимися странами и даже между разными группами населения в одном и том же регионе, когда речь идет об управлении этими факторами.

Всемирный банк активно продвигает финансовую доступность, создав группу по вопросам политики для облегчения диалога и координации между заинтересованными сторонами в государственном и частном секторах. Группа подчеркивает твердую политическую приверженность как ключевого игрока в создании удобной среды для ответственного доступа к финансам и использования инновационных технических продуктов. Этого невозможно достичь без:

1. Долгосрочные стратегии могут быть разбиты на подробные планы действий правительства по достижению целей финансовой доступности.

2. Платежные системы, обеспечивающие плавный переход от наличных и бумажных инструментов к электронным деньгам.

3. Различные варианты финансовых услуг для физических лиц, включая сбережения, кредит и страхование.

4. Регулирование и надзор для обеспечения равных условий для банков и небанковских организаций, таких как телекоммуникационные компании, почтовые отделения, кооперативы, агентские сети и финтех-фирмы.

Финансовая индустрия также проявила инициативу со своей стороны. С одной стороны, учреждения постоянно изобретают новые способы доставки продуктов и услуг на более широкий рынок и увеличения своей прибыли в процессе. С другой стороны, появление финансовых технологий, также известных как финтех, обеспечило рентабельные решения проблемы отсутствия доступа к финансовым услугам.

Подъем цифровых банков-претендентов

Банки-претенденты обычно представляют собой созданные средние или специализированные фирмы, прямыми конкурентами которых являются крупные корпорации, в то время как банки-претенденты, как правило, являются новыми и полностью сосредоточены на цифровых мобильных устройствах.

Отчет KMPG за 2016 г. показывает, что банки-претенденты имеют значительное преимущество в издержках по сравнению с традиционными банками, особенно с Большой пятеркой (включая HSBC, Barclays Banks, Lloyds Bank, Royal Bank of Scotland и Santander). В отчете обсуждаются два типа банков-претендентов: более мелкие банки-претенденты, срок действия которых составляет от пяти до десяти лет, и более крупные банки-претенденты, созданные на более длительный период времени.

В 2014 и 2015 годах соотношение затрат к доходам как более мелких, так и более крупных банков-претендентов оставалось на уровне около 50–60%, в то время как у Большой пятерки оно оставалось высоким в диапазоне 70–80%. В частности, доля претендентов меньшего размера снизилась с 52,1% до 48,5%, в то время как доля претендентов большего размера несколько увеличилась с 58,0% до 59,2% в течение двух лет. Отношение затрат к доходам в «большой пятерке» не только снизилось, но и выросло с 73,0% в 2014 году до 80,6% в 2015 году.

Лидер в этой области, One Savings Bank (OSB), добился впечатляющего соотношения затрат к доходам в 26% в 2015 году. Причиной такого превосходства являются простые бизнес-модели банков-претендентов и сокращенный набор продуктов, особенно те, которые сосредоточились на нише. области. По сути, как банки-челленджеры, так и необанки (о чем говорилось выше). Оба типа обладают конкурентным преимуществом гибкости; то есть они могут легко преодолеть традиционную и громоздкую инфраструктуру и внедрить новые технологии. Это снимает с банков бремя обработки транзакций и позволяет им сосредоточиться на консультировании клиентов.

У каждого банка свой подход к своим продуктам и услугам, но по большей части они разделяют эти четыре общие темы.

  1. Персонализация
  2. Открытые экосистемы
  3. Информационная прозрачность и конфиденциальность клиентов
  4. Прогнозирующий интеллект

Благодаря новым и постоянно обновляемым технологиям банковская отрасль трансформируется с беспрецедентной скоростью. В каждой подобласти применяются определенные технологии для улучшения пользовательского опыта, банковской безопасности или даже финансовой доступности. Одним из примеров является технология блокчейн. По сути, набор баз данных содержит серию «блоков» криптографически закодированных данных, которые «связаны» вместе. Это технология, лежащая в основе криптовалют, таких как биткойн.

Как только эта концепция была представлена, банковские и финансовые учреждения поспешили изучить ее потенциал. В недавней статье, опубликованной Школой бизнеса Макдонаф Джорджтаунского университета, утверждается, что за счет снижения затрат, снижения (d) риска и расширения (d) финансовых инноваций технология блокчейна может эффективно способствовать расширению доступа к финансовым услугам.

Еще один — Интернет вещей (IoT). По оценке исследователей Массачусетского технологического института, 20,6 млрд — это количество устройств, подключенных в настоящее время к Интернету. Согласно их прогнозу, автомобили, умные дома, носимые устройства и умные города станут следующим шагом в подключении после ноутбуков и смартфонов.

Все, что синергетически обменивает данные между системами, подпадает под зонтик «Интернета вещей». Интернет вещей помогает финансовым технологам получать подробные данные о действиях потребителей, обрабатывать платежи и предотвращать мошенничество.

Тем не менее, наиболее широко используемой технологией является искусственный интеллект (ИИ). ИИ относится к демонстрации человеческого интеллекта машины. Общие ассоциации с ИИ — «машинное обучение» и «глубокое обучение», но это разные термины. ИИ — это наиболее общее понятие, обозначающее способность компьютера обучаться и обрабатывать данные во время работы. Он постоянно совершенствует свой процесс и раз за разом учится быстрее. Машинное обучение (ML) определяет алгоритмы, используемые приложениями ИИ. Алгоритм состоит из списка правил; например, алгоритм Google использует собственный набор правил, включая ключевые слова и обратные ссылки, для ранжирования результатов поиска. Наконец, глубокое обучение относится к процессу, в котором машина изучает новые функции для выполнения задач через искусственные нейронные сети.

Хотя банки активно используют многие алгоритмы в своем обновленном цифровом пути, они недооценивают важность проведения систематического анализа этических и моральных принципов, таких как прозрачность, справедливость и т. д., и обеспечения того, чтобы алгоритмы давали правильные результаты.

Этика ИИ: ключевые вопросы

Поскольку технологические инновации обеспечивают экономически эффективные решения для финансовых услуг и доступа к продуктам, они также создают многочисленные проблемы для финансового рынка. Располагая огромными данными о потребителях, транснациональные корпорации достигают беспрецедентных и непревзойденных позиций и таким образом доминируют на всем рынке. Это вызвало глобальные дебаты о манипулятивном рендеринге и негативном влиянии технологий, особенно на приложения ИИ.

Главной проблемой ИИ является то, насколько приемлемо для машин принятие решений. Четыре ключевых вопроса, которые резюмируют этические проблемы ИИ:

1. Можно ли применять и использовать ИИ, не причиняя вреда?

2. Должны ли мы нести полную ответственность за создание приложений, дающих беспристрастные результаты?

3. Как мы можем создавать приложения на основе ИИ, которые не допускают дискриминации и продвигают права человека?

4. Что мы можем сделать, чтобы лучше понять, как работает ИИ и как управлять ИИ?

Этика ИИ: вызовы, с которыми сталкивается Challenger Banks

Изначально приложения ИИ в финансовых учреждениях все еще относительно просты: от роботизированной автоматизации процессов до низкоуровневых деревьев решений и базовых линейных регрессий. По мере того, как компании ожидают более сложных применений в прогнозировании и управлении рисками, ставки непонимания и неправильного использования ИИ возрастают.

Обычные банки обвиняют в дискриминационном отношении к группам с низкими доходами и меньшинствам с низкими кредитными баллами и денежными потоками. Их процесс может занять до трех-четырех недель из-за большой и громоздкой человеческой системы. Банки Challenger и Digital-first могут обойти сложную процедуру, полностью полагаясь на ИИ, но именно эта зависимость делает их уязвимыми для этических проблем.

1. Квалификация владельца учетной записи.

Первым шагом к получению доступа к широкому спектру финансовых услуг и продуктов является открытие расчетного счета. Когда человек запрашивает регистрацию учетной записи, запускается процесс квалификации; алгоритмы с точками соприкосновения используются для определения того, имеет ли человек право на учетную запись на основе целевой персоны банка. Если банк принадлежит к более крупной экосистеме, он может воспользоваться своей сетью, чтобы разобраться в потенциальных перспективах.

Проблема с этим процессом заключается в том, что проверка приемлемости основана на ограниченной информации или прокси, доступных в сетевой базе данных. Ограниченная информация ведет к предубеждениям и потенциально неправильным и дискриминационным решениям. Таким образом, проблема больше не в регистрации так называемой «неправильной личности», а скорее в лишении клиентов права открывать учетную запись. Это явно противоречит принципу финансовой доступности.

2. Проверка личности.

Еще одним аспектом применения ИИ в банках-претендентах является проверка личности. В настоящее время используются различные методики, среди которых наиболее популярной является биометрия лица. На первом этапе клиенты должны отсканировать свои паспорта, удостоверения личности или водительские права, а на втором этапе им предлагается сделать видеоселфи. Вместе эти два действия собирают и преобразуют аналоговую информацию о чертах лица клиентов в наборы цифровых данных.

Неотъемлемой проблемой распознавания лиц является согласие. Чтобы работать хорошо, алгоритмы должны сначала изучить большую базу данных изображений, которые в идеале сделаны при разном освещении и под разными углами. Большая коллекция фотографий, которую сегодня используют в качестве источника многие приложения, была, к сожалению, приобретена в 1990-х и 2000-х годах без согласия.

Еще одна проблема с биометрическими системами лица — потенциальная расовая дискриминация. Опять же, поскольку ИИ может функционировать только на основе того, чему он научился, приложение, созданное на основе данных о европеоидной расе, может не ответить азиатскому пользователю. Нечувствительность алгоритмов к расовым предубеждениям — нервная проблема, с которой должны справиться банки-претенденты.

3. Конфиденциальность данных.

Как и в большинстве отраслей, финансовые фирмы собирают данные о своих клиентах — с согласия или без — и анализируют эти данные, чтобы получить представление о каждом, чтобы персонализировать услуги и продукты для них. Это может включать персональные советы по подготовке к будущему и эффективному управлению капиталом.

Однако сбор и анализ данных вызывают озабоченность по поводу конфиденциальности и безопасности пользователей, поскольку чем больше информации о человеке получает третья сторона, тем более уязвимым становится человек для мошеннических и вредоносных действий.

Некоторые из систем машинного обучения основаны на модели «черного ящика», что означает, что их работа невидима и неотслеживаема. Это отсутствие прозрачности может быть очень проблематичным, если система должна принимать решения, которые затрагивают человека. Суждения о том, кто имеет право на получение ссуды, кому отказывают в выдаче кредита, кто получает условно-досрочное освобождение, имеют решающее значение, и люди имеют право знать, как принимаются эти решения.

4. Дизайн и эргономика.

"Для создания надежного ИИ необходимо создавать решения, отражающие этические принципы, глубоко укоренившиеся в важных и вечных ценностях".

- Принципы искусственного интеллекта Майкрософт

При разработке пользовательского интерфейса для модели ИИ необходимо тщательно учитывать несколько вещей, чтобы улучшить взаимодействие с пользователем. Расовое присвоение — одно из них. Об этом свидетельствует скандал с крупной поисковой системой несколько лет назад: пользователи обнаруживают, что, если они набирают слово преступник в строке поиска, определенная раса и этническая принадлежность появляются заметно чаще, чем другие, таким образом создавая эту ложную вера в то, что общество имеет тенденцию быть более жестоким и агрессивным. Что еще хуже, в то время у этой поисковой системы был цветовой фильтр, из-за которого (опять же) одна гонка давала значительно больше результатов, чем остальные. Урок здесь заключается в том, что алгоритмы должны быть тщательно выполнены на уровне UI/UX, чтобы гарантировать соответствующие результаты.

Информационная предвзятость — это другое. Например, скажем, система искусственного интеллекта разработана для обнаружения и классификации клиентов на основе их показателей и личной информации. Клиент с высоким доходом заходит в банк, и система немедленно сообщает банкирам, что этот человек является перспективным для VIP-услуг, основываясь на его или ее одежде, аксессуарах, позе при ходьбе и т. д. Скорее всего, элементы оценки могут создавать только части полную картину, что может привести к ненадлежащему поведению или обращению со стороны банкиров или даже, в худшем случае, к лишению клиента права открыть счет. Это гипотетические, но вероятные ситуации, о которых дизайнеры должны подумать.

Суть в разработке ответственного и умного UI/UX, который может дополнить эти модели ИИ. Сможет ли приложение ИИ охватить широкую и разнообразную аудиторию, во многом зависит от ответственного дизайна.

5. Боты обслуживания клиентов

Автономные системы не должны ограничивать свободу людей устанавливать свои собственные интеллектуальные стандарты и нормы. —AI4People: Этическая основа для хорошего общества ИИ

С искусственным интеллектом приходят чат-боты, автоматизированная система связи, которая значительно сокращает расходы на колл-центр и улучшает обслуживание клиентов. Тем не менее, чат-бота необходимо обучать, а это означает, что неполное и ошибочное обучение может привести к проблемам, охватывающим конфиденциальность, право собственности на данные, злоупотребление и прозрачность данных.

Потребности и опыт клиентов должны быть приоритетными при разработке и обучении чат-бота. Вопросы для рассмотрения включают: Ясно ли клиентам, что они разговаривают с чат-ботом, а не с помощником-человеком? Правильно ли чат-бот представляет имидж компании? Надежны ли чат-боты в сборе конфиденциальной информации, такой как банковские счета или медицинская страховка? Есть ли у клиентов возможность немедленно связаться с человеком, если у них есть проблемы, которые бот не может решить?

6. Непрерывное принятие кредитных решений

В мире банковского дела кредит является королем. Согласно недавнему исследованию покупательских привычек и платежных предпочтений людей, только 12% сообщили, что предпочитают использовать наличные, в то время как 77% признались, что дебетовые или кредитные карты являются их способом оплаты с собой. Конечно, более быстрая и удобная оплата — не единственная причина важности кредита.

После регистрации банковского счета данные о движении денежных средств клиентов будут собираться банками для оценки их кредитных баллов. Наличие более высоких кредитных баллов облегчает клиентам доступ к широкому спектру вариантов финансирования, таких как покупка страховки, получение кредита или обеспечение запасов. Поскольку кредитная история становится все более и более популярной, компании даже рассматривают ее как один из критериев оценки кандидатов на работу.

Решения на основе искусственного интеллекта помогают банкам и финансовым учреждениям принимать более взвешенные и взвешенные решения, когда речь идет об одобрении кредитов и займов. Для более точной и точной оценки заемщиков, включая тех, кого принято считать незаслуженными, например миллениалов, используется более широкий спектр факторов.

Интуитивно банки будут удалять из набора данных дискриминирующие переменные, такие как пол или этническая принадлежность, чтобы устранить предвзятость. Однако все не так просто, как кажется — нужно внести гораздо больше корректировок. Например, поскольку финансовые учреждения исторически одобряли меньшее количество кредитных пакетов для женщин по сравнению с мужчинами с одинаковым кредитным рейтингом и доходом, выборки данных о кредитах для женщин меньше. Если не будет вмешательства в данные и критерии оценки, женщины, обращающиеся за получением кредита, будут по-прежнему подвергаться дискриминации. Однако существует вероятность того, что ручное вмешательство, направленное на исправление предвзятости, может привести к предвзятости подтверждения или самоисполняющимся пророчествам. Это, в свою очередь, может ухудшить ситуацию, повторяя или усиливая уже сделанные ошибки или предположения.

В этот момент на помощь может прийти ИИ. С помощью ИИ банки могут получить доступ к необработанным данным для обнаружения и исправления моделей исторической дискриминации в отношении женщин, а затем сознательно и активно изменять этот набор данных в будущем, чтобы предоставить более справедливую и (конечно, искусственную) возможность одобрения. Например, один кредитор использовал ИИ, чтобы выяснить, что для получения эквивалентной суммы кредита по сравнению с мужчиной женщина должна иметь доход на 30% выше. Выявление этой предвзятости — первый шаг; Следующим шагом является перераспределение кредитных профилей женщин путем приближения их к кредитным профилям мужчин с эквивалентными показателями риска при сохранении относительного рейтинга. Результатом является более справедливая модель принятия решений на основе ИИ, которая может поддерживаться, поскольку банки стремятся предоставлять кредит более справедливым образом в будущем.

7. Культурное разнообразие

Важным, но часто игнорируемым способом борьбы с дискриминационными недостатками является сбор мультикультурной и разнообразной группы разработчиков и дизайнеров, однако «разнообразие» не ограничивается только полом, национальностью и этнической принадлежностью. Другие идентификаторы, которые могут способствовать разнообразному найму, включают наследие, религию и культуру — элементы, которые важны, если не жизненно важны для обсуждения присвоения и оценки.

Культуры можно разбавить до философий; то есть обслуживание разных культур означает принятие разных философских точек зрения. Без этого понимания модели ИИ могут также превратиться в оружие интеллектуальной диктатуры и современного империализма, что противоречит фундаментальному принципу финансовой доступности. Таким образом, сбор разнообразной группы разработчиков представляет собой простой и динамичный форум для обсуждения этики ИИ. Смысл этих диалогов в том, чтобы установить стандарт, по которому модели ИИ могут решать, что приемлемо, а что нет, не полагаясь на предшествующие предубеждения о добре и зле.

Моральный кодекс: решения для финансовой доступности

Обсудив вышеизложенное, давайте с нетерпением ждем некоторых ключевых моментов, касающихся применения решений ИИ для повышения доступности финансовых услуг, которые должны принять во внимание финансовые учреждения. В любом случае этические вопросы необходимо решать в первую очередь, чтобы защитить пользователей и сохранить равенство.

1. Способствовать личному благополучию и уважению достоинства.

Поскольку целью финансовой доступности является улучшение качества жизни каждого гражданина, финансовые продукты и услуги должны ставить благополучие клиентов на первое место.

«ИИ неизбежно запутывается в этических и политических аспектах призваний и практик, в которые он встроен. Этика ИИ — это фактически микрокосм политических и этических проблем, с которыми сталкивается общество». — Брент Миттельштадт.

В целом этика ИИ вращалась вокруг принципа непричинения вреда, что означает не навреди. Обсуждения, в которых участвуют финтех, разработчики, регулирующие органы и другие заинтересованные стороны, сосредоточены на минимизации этических рисков и преднамеренных злоупотреблений, но другой способ думать об этом — через принцип благодеяния или делать добро. Вместо того, чтобы пытаться предотвратить худшее, можно начать работать над улучшением.

Благосостояние явно выходит за рамки денежной ценности; она охватывает общественную жизнь, здравоохранение, образование и другие. Разработчики приложений ИИ должны знать об этих сопутствующих факторах, чтобы создавать системы, которые одновременно уважительны и расширяют возможности.

2. Гарантировать информационную прозрачность и справедливость.

Этот принцип требует разграничения между автоматизированной системой и автономной системой.

Автоматизированная система работает в рамках ограничений параметров и, таким образом, сильно ограничена в том, что она может делать. Предварительно определенные правила определяют, какое решение будет принято и какое действие будет предпринято. Автономная система, с другой стороны, учится, адаптируется и развивается вместе с окружающей средой. Он может развиваться далеко за пределы того, что было развернуто впервые.

Клиенты имеют право с максимальной ясностью знать, какую систему они используют и какой объем информации она может получить от них. Точно так же банки-претенденты должны предоставить информацию об обоснованности решений с использованием ИИ и моральном обязательстве клиента понимать и нести ответственность за последствия своих действий.

Однако излишняя прозрачность данных может привести к тому, что пользователи станут жертвами злонамеренных действий, таких как неправомерное использование и злоупотребление их личными данными. Это означает, что разработка более прозрачных практик для ИИ должна идти рука об руку с разработкой методов предотвращения злоупотреблений.

3. Служить и защищать права человека.

Само собой разумеется, что получение доступа к финансовой экосистеме является одним из аспектов основных прав человека. Права человека — это социальные и правовые нормы, защищающие каждого отдельного гражданина от злоупотреблений и жестокого обращения, и их можно разделить на два типа:

а. Гражданские и политические права, включая право на жизнь, свободу и собственность, право на свободу выражения мнений, стремление к счастью и равенство перед законом.

б. Социальные, культурные и экономические права, такие как право на работу и получение образования, а также право на участие в науке и культуре.

Достойная и полноценная жизнь, а не возможность жить в свободе, счастье и благополучии — оптимальная цель движения за права человека. Банковская индустрия может многому научиться из применения ИИ местными властями, как в случае с Лондоном. Они сотрудничали с учеными для разработки проекта Одиссей, с целью запечатлеть и понять уровень активности города. Благодаря сочетанию алгоритмов машинного обучения, статистического анализа временных рядов и обработки изображений власти собрали достаточно данных, которые затем использовались для безопасного открытия улиц и планирования общественного здравоохранения. Подобные проекты, ориентированные на человека и общественность, вполне могут быть развернуты в финансовой индустрии для продвижения прав человека.

4. Определить объем и принадлежность ответственности.

Подотчетность может показаться знакомой и простой, однако споры о том, кто должен нести ответственность за использование систем ИИ, не утихают во всем мире. По определению, подотчетность относится к юридическим и этическим обязательствам человека или организации брать на себя ответственность за использование ИИ и раскрывать результаты прозрачным образом. Это предполагает соотношение сил, при котором одна сторона контролирует, а другую следует винить, и урегулирование этих отношений настолько сложно, что правительства и международные организации, такие как Европейский Союз и G7, рассматривают это как открытый вызов. .

Почему так сложно договориться?

Две причины: разное качество обязанностей и влияние и контроль технологий над людьми. Во-первых, совершая действие, человек берет на себя определенную ответственность, но качество такой ответственности зависит от его свойств. Интеллектуальные технологии усложняют это еще больше, объединяя человека и машину в своего рода гибридное существо, которое одновременно выполняет когнитивные задачи, включая принятие решений. Когда алгоритмы входят в состав объектов принятия решений более высокого уровня, человеку становится все сложнее вмешиваться в искусственную систему.

Во-вторых, технологии могут заставить людей действовать принудительно. Классическим примером в этом отношении является звуковой сигнал ремня безопасности: звук прекращается и прекращается только тогда, когда ремень безопасности будет пристегнут. Современные алгоритмы могут принимать гораздо более сложные и изощренные формы; они предлагают, предлагают и ограничивают варианты. Следовательно, остается вопрос: насколько добровольно и насколько свободно люди могут быть от контроля машин? Если действие является добровольным, что означает, что лицо, проводящее действие, в достаточной степени понимает использование научной технологии, что значит «понимать» и насколько «достаточно»? Каково точное прочтение слов «понятность», «прозрачность», «объяснимость» или «слышимость»? Это вопросы, на которые нелегко ответить.

5. Рассматривайте этику как действие, а не знание.

Понимание этической теории — это одно, а реализация этического подхода — совсем другое.

Как говорится в старой поговорке, действия имеют значение.

Распространенной практикой соблюдения этики является публикация этических рекомендаций для проектов ИИ. В этом смысле руководство — это не просто информативные блоки текста, а скорее то, что Джудит Батлер называет «перформативными текстами»; то есть тексты, которые выполняют какое-то действие. Например, когда священник произносит пару «муж и жена», он не просто произносит фразу, но сама фраза подтверждает семейное положение с этого момента.

Обычно этические принципы выполняют три функции: призывы к дерегулированию, заверения и экспертиза. Компании могут прийти к выводу, что этические принципы обходят любые нормативные документы, поскольку они отражают их моральные принципы. Другими словами, подразумевается, что наша компания не должна быть ограничена, потому что мы строго следовали этическим кодексам. Точно так же этические принципы убеждают инвесторов и общественность в том, что фирма имеет право на проведение действий и кампаний, руководствующихся моральными принципами, и тем самым отводят от них общественную критику.

С экспертами немного сложнее. В эпоху беспощадной конкуренции каждая компания гонится за экспертами в области ИИ — за этим следует технологический, а затем экономический и даже политический контроль. Тем не менее, экспертиза может иметь эффект только тогда, когда она получает общественное признание, и публикация этических принципов вписывается в общую картину. Публикация и участие в дискуссиях об этике ИИ — отличный способ повысить общественное мнение об опыте.

Заключительные слова

Бесспорно, важно избегать неправильного использования технологии ИИ в банковской сфере, но также важно не использовать ее недостаточно просто для того, чтобы избежать этических рисков, связанных с внедрением цифровых решений. Ключ в том, чтобы найти сбалансированное решение между включением преимуществ и смягчением потенциального вреда.

Недостаточно соблюдать правила — это как играть, чтобы не получить дисквалификацию, а не играть, чтобы выиграть игру. Компании и организации должны планировать получение так называемого «двойного преимущества» в своем этическом подходе. С одной стороны, они могут получить выгоду от социально предпочтительных возможностей, которые дает ИИ. С другой стороны, они могут снизить затраты и сократить неблагоприятные действия, которые являются юридически правильными, но отвергаются обществом. Ответ на заголовок — да, и именно поэтому.