Надежный ИИ
Важность доверия к ИИ
Роль объяснимости и доверия в принятии решений
Вступление
Вы доверяете своему консультанту по инвестициям, который даст вам правильный инвестиционный совет?
Как насчет робо-советника, который гораздо эффективнее даст вам лучший инвестиционный совет с использованием передового ИИ, оптимизированного для высокой доходности?
Каким будет ваш уровень доверия?
- Высокий уровень доверия благодаря использованию ИИ
- Средний уровень доверия, поскольку это сработало для тех, кого вы знаете
- Низкий уровень доверия, потому что это что-то новое
Доверие развивается со временем. Укрепление доверия имеет первостепенное значение при принятии решений.
В этой статье мы рассмотрим, как доверие играет большую роль в принятии ИИ, и некоторые факторы, которые могут помочь повысить это доверие.
Да, вы правы; человеческие решения также должны вызывать доверие машин в определенных расширенных настройках. Это тема для другого раза.
Что влияет на доверие
Доверие - это улица с двусторонним движением; он создается совместно двумя участвующими организациями. То же самое относится к людям и машинам.
Доверие к ИИ зависит от того, являетесь ли вы экспертом в той же области или нет. Если вы не разбираетесь в финансовых рынках, вы обязаны полагаться на советника Robo за советом экспертов и укреплять доверие на основе результатов.
Принимая во внимание, что кто-то, кто является экспертом в предметной области, построит доверие на основе объяснимости модели.
Объяснимость
Модель, которая может объяснить свои прогнозы, может иметь большое значение для построения доверия.
Помимо объяснения важных особенностей, влияющих на прогнозы, объяснение неопределенностей в этих прогнозах помогает принимать обоснованные решения, которые, в свою очередь, укрепляют доверие.
«Системы искусственного интеллекта должны быть не только лучшими из возможных.
Иногда им следует сказать: «Я понятия не имею, что я здесь делаю, не верь мне». Это будет действительно важно ».
Но объяснимость достигается за счет точности.
Продолжаются дебаты по ИИ о важности объяснимости и точности. На мой взгляд, это зависит от варианта использования и не является строго двоичным. Есть случаи (сценарии принятия решений с высокой ставкой), когда более высокий уровень объяснимости помогает завоевать доверие ценой точности.
Хотя объяснимость укрепляет доверие, излишняя прозрачность объяснений создает риск уязвимости для атак; что приводит к парадоксу прозрачности ИИ.
В этой области было проведено несколько интересных исследований, в которых пользователи, доверяющие моделям, могут манипулировать с помощью вводящих в заблуждение объяснений.
Как доверие влияет на решения?
Принимать решение
Интеллект принятия решений - это дисциплина, позволяющая преобразовывать информацию в более эффективные действия в любом масштабе - Кэсси Козырков
Принятие решения - это осознанное решение выбрать вариант среди всех альтернативных вариантов, предложенных ИИ. Поскольку решения не подлежат отмене, очень важно взвесить все варианты, исходя из их влияния на результат, прежде чем делать выбор.
Здесь доверие к ИИ играет решающую роль, поскольку варианты, предсказанные ИИ, должны предлагать правильное количество объяснений и уровень доверия.
В зависимости от уровня доверия принятие решений может осуществляться на разных уровнях взаимодействия между людьми и машинами.
Автоматизация принятия решений требует высокого уровня доверия и объяснимости, поскольку они призваны быть более автономными по своей природе; подвержены предвзятости автоматизации.
Увеличение числа решений светится, когда люди и машины дополняют друг друга знаниями и доверяют друг другу. Сценарии принятия решений с помощью ИИ, где ИИ и люди объединяются в процессе принятия решений. Об этом подробнее здесь".
Заключение
Мы обсудили доверие и влияние объяснимости на доверие, а также компромиссы с точностью и эффективностью решения.
В настоящее время у нас действительно не может быть лучшего из миров. Редко мы можем построить модель, которая может предложить высокую точность, высокую объяснимость, а также высокую надежность.
Объяснение может быть разных типов, служащих разным целям,
- Интерпретируемость инженеров - как модель произвела результат
- Причинная интерпретируемость - почему входные данные привели к выходным
- Интерпретируемость, вызывающая доверие - как суррогат доверия
В следующей статье мы рассмотрим, как на практике создать вызывающую доверие интерпретируемость.
