Большинство компаний согласны с тем, что искусственный интеллект (ИИ) снижает затраты, повышает производительность и прибыльность. Согласно отчету Sloan Management Review MIT, 84 % лиц, принимающих решения, говорят, что ИИ даст им конкурентное преимущество, и считают это своим стратегическим приоритетом.

Теперь предположим, что вы хотите купить новый дом или новую машину. Эта инвестиция действительно важна для вас, вы уже давно копили деньги. У вас есть немного денег в банке, поэтому вы идете в ближайшее отделение и просите кредит. Банк проверит вашу кредитную историю. Сюрприз: ваш кредитный рейтинг ниже, чем вы думали, на самом деле он настолько низкий, что банк отклонил вашу заявку на кредит! Когда вы запрашиваете более подробную информацию, банк с гордостью говорит, что кредитный рейтинг был создан с помощью алгоритма с использованием ИИ, и что ИИ действительно точен. Когда вы спрашиваете, почему в моем случае мой кредитный рейтинг такой низкий, они просто отвечают, что алгоритм настолько сложен, что мы не можем объяснить решение. Ни нового дома, ни новой машины, ни объяснений. Как бы вы себя чувствовали?

Что ж, именно это и произошло с клиентом Apple Card. Американка получила кредитный рейтинг в 20 раз ниже, чем ее муж с таким же кредитным прошлым. Предполагается, что Apple Card имеет гендерную предвзятость и отдает предпочтение мужчинам, а не женщинам. Apple возлагает вину за Apple Card на банк: Goldman Sachs. Goldman Sachs отрицает какую-либо ответственность и возлагает вину на алгоритм черного ящика, основанный на искусственном интеллекте.

Apple Card в настоящее время расследуется на предмет дискриминации женщин. Подожди, как все произошло? В чем основная проблема? Анализ.

Производительность превыше всего

Когда дело доходит до демонстрации того, почему ИИ имеет решающее значение для решения социальных проблем, я всегда думаю об отрасли здравоохранения и значительном прогрессе в этой области. Особенно прогресс, достигнутый в последнее время в области обнаружения рака кожи. С 2018 года разные исследования демонстрируют, что алгоритмы ИИ, использующие методы глубокого обучения, показывают лучшие результаты, чем большинство дерматологов, при выявлении меланомы, злокачественной формы рака кожи. Теперь совершенно ясно, что ИИ может помочь в диагностике одной из самых частых причин смерти в мире: рака. Поэтому считается, что алгоритмы ИИ де-факто оказывают значительное влияние на все общество и человечество.

Поскольку ИИ точен и быстр, у нас есть фантастическая возможность высвободить время для инноваций! Если нам просто нужно взглянуть на бюджеты на НИОКР различных учреждений, чтобы понять, что инновации сегодня являются двигателем экономики. Уравнение довольно простое: чем больше компания внедряет инноваций, тем больше вероятность того, что она будет отличаться от своих конкурентов и станет уникальной и, соответственно, более ценной на рынке. Таким образом, решения на основе искусственного интеллекта устраняют необходимость выполнять утомительные и болезненные задачи, помогая компании сосредоточиться на создании новых продуктов, которые приносят больше пользы.

В течение последнего десятилетия затраты на вычислительную мощность и хранение данных становятся доступными для компаний. Поставщики облачных услуг, такие как Amazon Web Services (AWS) или Microsoft Azure, внесли значительный вклад в эту эволюцию. Таким образом, за последнее десятилетие решения на основе ИИ становились все более прибыльными.

Короче говоря, если все сделано правильно, повышение общей производительности с помощью ИИ может привести к возможностям получения прибыли. И угадайте, что? Модели ИИ со временем становятся все более и более точными. Объяснение простое. Алгоритмы глубокого обучения учатся на данных, доступных в данный момент времени. Со временем становится доступно все больше и больше данных. Это означает, что если реализован соответствующий инженерный процесс (инженерия машинного обучения), модель машинного обучения может учиться на этих новых входных данных и становиться все более точной и, следовательно, со временем ценной. Лучше со временем, как бутылка хорошего красного вина!

Вы можете подумать, что использование ИИ — это ложе из роз, но, как было сказано во вводной истории. ИИ не безупречен. Реальность такова, что алгоритмы на основе ИИ и особенно методы глубокого обучения могут быть легко неверно истолкованы.

Действительно ли ИИ — это черный ящик?

(Слишком) большие данные

Одной из сильных сторон глубокого обучения является возможность быстро учиться на разнообразных и больших объемах данных, поступающих из нескольких источников. Здесь мы говорим о больших данных. Именно поэтому она так сложна для архитектуры ИИ. Как сделать вещи осмысленными, когда в данных скрыты сотни факторов, не имеющих линейной связи друг с другом? Это похоже на понимание причины, по которой конкретный мяч помещается в пул мячей. Сложно, не так ли?

Искусственная нейронная сеть: сложный дизайн

Не вдаваясь в лишние детали, архитектуры глубокого обучения состоят из нескольких слоев искусственных нейронных сетей. Эта структура затрудняет их ретро-инжиниринг и, следовательно, проверку и проверку.

Предполагается, что ИИ поможет в принятии решений в организациях в долгосрочной перспективе. Задача ИИ — стать надежным партнером для решения сложных проблем или помощи в принятии решений. Нам нужно доверять нашему новому партнеру. Скандал с гендерной дискриминацией Apple Card усиливает подозрения со стороны общественного мнения, что усиливает давление на системы на основе ИИ.

Право на объяснение

Алгоритмы на основе ИИ все чаще участвуют в принятии важных решений, влияющих на людей, компании и суверенные учреждения. Поэтому все больше стран требуют защиты, прозрачности и регулирования алгоритмов для своих граждан. Таким образом, идея иметь Право на объяснение выходит из общества.

Согласно Википедии, право на объяснение это:

«В регулировании алгоритмов, в частности, искусственного интеллекта и его подобласти машинного обучения, право на объяснение (или право на объяснение) — это право на объяснение результатов работы алгоритма. Такие права в первую очередь относятся к индивидуальным правам на получение объяснений решений, которые существенно влияют на человека, в частности, в юридическом или финансовом плане».

Эта готовность к регулированию проявляется как закон в некоторых регионах мира. Например, 28 стран Европейского Союза приняли известный GDPR (Общий регламент по защите данных). В Декларации 71 говорится, что любой европейский гражданин имеет право «получить объяснение решения, принятого после такой оценки, и оспорить решение, когда речь идет об автоматизированном принятии решений».

Возвращаясь к нашему примеру, это означает, что если банк отклоняет вашу заявку на кредит, банк должен предоставить подробное объяснение.

Извлечение знаний: ИИ научил меня ловить рыбу

Дай человеку рыбу, и ты накормишь его на один день; научите человека ловить рыбу, и вы накормите его на всю жизнь — Лао-цзы

Эта аналогия с ИИ подчеркивает тот факт, что ИИ должен быть здесь не только для предоставления услуг и демонстрации впечатляющих результатов. Алгоритмы глубокого обучения могут обрабатывать миллионы точек данных для принятия решения. Открытие черного ящика ИИ имеет решающее значение для предоставления информации и знаний людям. Есть комнаты для передачи знаний. Это знание теперь скрыто в этом черном ящике. Нам нужно объяснение, которое мы можем превратить в знание.

Расцвет XAI (объяснимый ИИ)

Эта готовность к прозрачности проявляется под эгидой XAI. XAI расшифровывается как eXplainable AI. Это подполе сосредоточено на создании решений ИИ, которые можно объяснить и интерпретировать по замыслу. Тем не менее, эта область исследований действительно возникла недавно и все еще страдает от недостатка зрелости и инвестиций. С 2018 года американской организации DARPA (Агентство перспективных исследовательских проектов в области обороны) правительство США выделило 2 миллиарда долларов на разработку ИИ нового поколения, предусматривающего прозрачность по замыслу. Это всего лишь один из примеров, показывающих, что проблема имеет стратегическое значение для правительства США, что объясняет, почему они вкладывают деньги в решение этой серьезной проблемы.

Были разработаны некоторые методы, позволяющие сделать результаты ИИ объяснимыми и удобочитаемыми для человека, такие как анализ чувствительности или методы интерпретации (например, LIME, IME и т. д.). Он оказался довольно нестабильным и достаточно зрелым, чтобы его можно было безопасно применять, особенно в критических системах.

Однако некоторые могут возразить, что некоторые алгоритмы очень интерпретируемы по своей конструкции, например, древовидные алгоритмы, используемые в традиционном машинном обучении. Опять же, исследования показывают, что в среднем они менее точны, чем методы глубокого обучения, и достигают плато производительности раньше, чем последние. Также они не применимы для решения сложных задач, таких как распознавание изображений, распознавание голоса, анализ текста и т. д.

Хорошо, и что? В чем тогда проблема? Если мы будем работать достаточно усердно, мы получим что-то прозрачное и работающее. Ну, давайте поговорим об экономике…

Компромисс ИИ

В условиях глобальной и конкурентной экономики время выхода на рынок является одним из ключей к успеху. Возможность предоставить ценное решение, которое дает точные результаты как можно быстрее, является огромным преимуществом перед вашими конкурентами.

Треугольник ИИ – это модель ограничений разработки проектов ИИ. Это три ограничения:

  1. Расходы
  2. Производительность/точность
  3. Прозрачность

Стоимость проекта ИИ зависит от усилий, приложенных к прозрачности и производительности. Эффективный алгоритм ИИ требует усилий и ресурсов, а прозрачный алгоритм ИИ требует усилий и ресурсов. Цель состоит в том, чтобы найти правильный компромисс между этими факторами. Эти компромиссы будут зависеть от целевой отрасли и стадии проекта.

Как мы можем с уверенностью предположить, в случае с Apple Card недостаточно инвестировали в прозрачность и, вероятно, выбрали время выхода на рынок и стоимость вместо выработки справедливого и уважительного решения, которое может привести к предвзятому отношению к некоторым категориям население.

Если бы Apple предприняла такое усилие по прозрачности, проверив свой собственный алгоритм, они смогли бы выяснить, были ли их решения ИИ предвзятыми по признаку пола. Компания из Купертино также сможет предъявить четкие доказательства, которые помогут избавиться от подозрений. Apple даже не может доказать свою невиновность. Это ставит компанию в опасную ситуацию с точки зрения брендинга и доверия со стороны общественного мнения.

Можем ли мы превратить прозрачность в возможность для бизнеса?

Согласно опросу Genesis, 60% компаний США планируют использовать ИИ к 2022 году (в настоящее время ИИ используют 24%). Развертывание решений на основе ИИ в таком масштабе невозможно без работы над прозрачностью. Особенно в таких стратегических областях, как медицина, авиация, энергетика. Эта проблема прозрачности теперь замедляет развитие ИИ в мире и лишает граждан той фантастической возможности, которую ИИ предоставляет каждому из нас.
Пример Apple Card показывает нам, что фактическая используемая бизнес-модель просто нежизнеспособна. и приемлемо как такой масштаб и для такой важной службы.

В мире, где ИИ станет нормой, возможность создавать ИИ-решения с высоким уровнем прозрачности может стать ключевым конкурентным преимуществом в гонке ИИ! Вы готовы?

Источники: