Майское издание: вопросы по объяснимому ИИ

Поскольку модели машинного обучения проникают практически во все области знаний, понимание того, что делают системы машинного обучения, становится проблематичным.

Многие статьи, блоги и программные инструменты представляют объяснимость и интерпретируемость квазиматематическим способом, но ... существует ли каноническое определение для того, что означают интерпретируемость и объяснимость? Или даже как мы оцениваем объяснения?

Алгоритмы машинного обучения определенно нельзя оставлять на произвол судьбы. Вопрос в том, как мы, люди, можем понять алгоритмы, превосходящие человеческие по производительности?

Итак, в этом ежемесячном выпуске мы решили выделить некоторые из лучших блогов и подкастов, о которых авторы TDS хотят, чтобы вы знали. Независимо от того, являетесь ли вы специалистом по обработке данных в промышленности, исследователем в академических кругах, студентом или просто любопытным человеком, я бы порекомендовал воспользоваться этой возможностью, чтобы поразмышлять о влиянии машинного обучения на общество и потенциальной потребности в объяснении.

Приятного чтения!

Карлос Моган, младший редактор журнала Towards Data Science и научный сотрудник Мари-Склодовской-Кюри.

Ответственный AI в Facebook

Подкаст | "YouTube"

Facebook регулярно развертывает системы рекомендаций и прогнозные модели, которые ежедневно влияют на жизнь миллиардов людей. Такой охват предполагает большую ответственность - среди прочего, ответственность за разработку этичных, справедливых и хорошо охарактеризованных инструментов искусственного интеллекта.

Должен ли ИИ быть этичным?

Подкаст | "YouTube"

Поскольку системы искусственного интеллекта стали более распространенными, люди стали уделять больше внимания их этическим последствиям.

Выведите объяснимый ИИ на новый уровень, обнаружив« несколько жизненно важных причин »

Эффективный Объясняемый ИИ должен быть нацелен на обнаружение «немногих важных» причин, а не «множества тривиальных» событий. Вот как это сделать на Python.

Автор Самуэле Маццанти - 8 мин.

Потребность в объяснении в искусственном интеллекте и робототехнике

Объяснимый ИИ: ворота в новое будущее.

Автор Пьер Паоло Ипполито - 5 мин.

Вы недостаточно используете значения SHAP - группы функций и корреляции

Ваша модель - это линза в ваших данных, а SHAP - ее телескоп.

Автор Эстеван Уйра Пардильос Виейра - 7 мин.

Открытие черных ящиков: как использовать объяснимое машинное обучение

Использование PDP, LIME и SHAP для создания интерпретируемых решений, которые создают ценность для ваших заинтересованных сторон.

Автор Маартен Гроотендорст - 9 мин.

Объяснимая бустерная машина

Так же точен, как повышение градиента, так же интерпретируется как линейная регрессия.

Автор Dr. Роберт Кюблер - 11 мин.

Важность расширенной перестановки для объяснения прогнозов

Выведите объяснимость на новый уровень, сохранив простоту.

Автор Марко Черлиани - 6 мин.

Разберитесь в машинном обучении Blackbox с ML-интерпретатором

Веб-приложение для автоматической интерпретации решений таких алгоритмов, как XGBoost.

Автор Ханна Ян Хан - 8 мин.

Объяснение моделей машинного обучения« черный ящик - практическое применение SHAP»

Обучите модель GBM «черного ящика» на реальном наборе данных и сделайте ее объяснимой с помощью SHAP.

Автор Норм Нимер - чтение 5 мин.

5 веских причин, почему объяснимый ИИ - экзистенциальная потребность человечества

Что такое объяснимый искусственный интеллект (XAI) и почему мы стремимся к объяснимости и интерпретируемости в системах ИИ?

Автор Орхан Г. Ялчин - 8 мин.

Новые подкасты

Мы также благодарим всех замечательных новых писателей, которые недавно присоединились к нам Несрин Сфар, Авишай Балтер, Линдси М. Петтингилл, Стива Аттила Копиас , Нина Христозова, Кишор Гопалан, Пратик Сингх, Жан-Батист Шарро, Дастин Стюарт, Сунаяна Гош, Прийонуй Боруах, Йоханнес Битц, Изабель Огенштейн, Кабир Нагреча, Фабио Оливейра, Матиас Грубер, Мохаммадреза Салехи, Тео, Габриэльгиллинг , Трэвис Купер, Лука Карниато, Инес Ли, Роберт Дзудзар, Дэвид Холл , Майкл Азимов, Никита Киселов, Кирилл Цыганов, Генри Грили, Бенджамин Лоу , Кэти Хуанг, Чак Аттербек, Дениза Блэквуд, Айя Спенсер, Sixing Huang , Оскар Гудло, Федерико Бьянки, Кристин Винтер, Габриэль Хермсен, Тино Альварес , Питер Гао и многие другие. Мы приглашаем вас взглянуть на их профили и ознакомиться с их работой.