ЛЮДИ боятся неизвестного. Поэтому, естественно, одна из причин, по которой искусственный интеллект (ИИ) еще не получил широкого распространения, может заключаться в том, что причина принятия решений машиной все еще неизвестна.
Как можно доверять решениям, когда люди не знают, откуда они?
Это называется черным ящиком ИИ - чем-то, что нужно взломать. По мере того как технологии продолжают играть все более важную роль в повседневной жизни и меняют роли в рабочей силе, этика алгоритмов стала горячей темой для обсуждения.
Считается, что практикующие врачи будут одними из первых, кто получит большую пользу от искусственного интеллекта и технологий глубокого обучения, которые могут легко сканировать изображения и анализировать медицинские данные, но алгоритмам принятия решений можно будет доверять только после того, как люди поймут, как делаются выводы.
Основные мыслители предупреждают, что предубеждения и предвзятость программиста, стоящего за программным обеспечением, могут быть усилены алгоритмом, но технологическая компания из Нью-Йорка считает, что она является лидером в создании ответственных технологий.
IBM заявляет, что предприняла важные шаги для взлома блок-боксов с помощью программного сервиса, обеспечивающего прозрачность ИИ.
Служба предназначена для обеспечения понимания того, как ИИ принимает решения, который также автоматически обнаруживает предвзятость и объясняет себя по мере принятия решений, а также предлагает дополнительные данные для включения в модель, которые могут помочь нейтрализовать предвзятость в будущем.
IBM ранее использовала ИИ для помощи в принятии решений с помощью IBM Watson, который предоставлял клиницистам научно обоснованные планы лечения, которые оптимизировали автоматизированное управление медицинским обслуживанием и вовлечение пациентов в планы продавцов.
Эксперты сразу же не поверили модели, поскольку она не объясняла, как принимались решения. Watson помогал в диагностике и подкреплял решения врача, но обнадеживающая технология никогда не заменит врача. Когда Уотсон предоставил анализ в соответствии с рекомендациями врачей, его использовали в качестве меры подкрепления. Когда Уотсон отличался, это было неправильно.
Но последнее нововведение компании, название которой в настоящее время не называется, похоже, призвано устранить недостатки Watson. Возможно, было бы уместно назвать его Шерлоком.
Повышенная прозрачность заключается не только в принятии решений: записи о точности, производительности и справедливости модели легко отслеживаются и используются для обслуживания клиентов, нормативных требований или соблюдения нормативных требований, таких как соответствие GDPR.
Наряду с объявлением об этом ИИ, IBM Research также выпустит набор инструментов для обнаружения и смягчения предвзятости ИИ с открытым исходным кодом, предлагающий инструменты и обучение для поощрения глобального сотрудничества по устранению предвзятости в ИИ.
Это включает в себя библиотеку алгоритмов, кода и руководств, которые предоставят ученым, исследователям и специалистам по обработке данных инструменты и знания для интеграции обнаружения предвзятости при построении и развертывании моделей машинного обучения.
В то время как другие ресурсы с открытым исходным кодом сосредоточены исключительно на проверке предвзятости в обучающих данных, набор инструментов IBM AI Fairness 360 поможет выявить и смягчить предвзятость в моделях ИИ.
Старший вице-президент IBM по когнитивным решениям Дэвид Кенни сказал: «IBM возглавила отрасль в установлении принципов доверия и прозрачности при разработке новых технологий искусственного интеллекта.
«Пора претворить принципы в жизнь. Мы обеспечиваем новую прозрачность и контроль предприятиям, которые используют ИИ и сталкиваются с наибольшим потенциальным риском в результате принятия ошибочных решений ».
Что это может значить для практикующих врачей? Новая технология может создать множество проблем при ее внедрении, поскольку политика еще не успевает за технологиями. Кто несет ответственность за проблемы, возникшие после ошибочного диагноза: врач или IBM? После проверенной репутации правильного диагноза, как человек пойдет против программного обеспечения? Чем оправдано внутреннее чувство?
