Серия блогов, в каждом из которых представлены практические инструменты для объяснения моделей машинного обучения. Прежде чем мы погрузимся в DiCE , давайте создадим интуитивное понимание того, что такое контрфактуалы. Counterfactuals — один из наиболее широко используемых инструментов в мире объяснимого ИИ или XAI. Контрфактическое объяснение описывает причинно-следственную ситуацию в форме: Если бы X не произошло, Y не произошло бы . Например: Если бы я не сделал глоток этого..

Эта статья основана на работе из репозитория: https://github.com/ADMAntwerp/CounterfactualBenchmark и из следующей препринтной статьи: https://arxiv.org/abs/2107.04680 . Объясняемый искусственный интеллект (XAI) сегодня имеет большое значение из-за широкого использования сложных моделей, которые не могут быть легко интерпретированы, как глубокие нейронные сети. . Они дают индивидуальное и персонализированное объяснение для каждой точки, указывая альтернативное состояние объекта, в..

В машинном обучении контрфактуалы относятся к гипотетическим сценариям, которые описывают изменение результата прогноза модели, если бы одна или несколько входных характеристик были другими. Эти сценарии могут помочь понять, как модель пришла к определенному прогнозу, и могут использоваться для выявления и исправления любых предубеждений или ошибок в модели. Контрфактический анализ также можно использовать для создания новых и альтернативных входных данных, которые приводят к другому..

Современные модели машинного обучения часто приводят к трудным для объяснения ситуациям черного ящика: входные данные известны, но путь к выходным данным и прогнозы менее ясны. Если данные также ограничены или слишком малы для изучения всех тонкостей, скрытых в данных, может стать трудным получить значимые результаты из данных и иметь высокую степень уверенности в них. Без трудоемкой и детальной работы сложно закодировать экспертные знания, помимо трудоемкой разработки функций. Напротив,..

Разнообразие результатов оптимизации моделей машинного обучения Оптимизация результатов машинного обучения — это процесс поиска оптимальных значений признаков, которые дают минимум (или максимум) предсказания модели в определенном пространстве. Для моделей машинного обучения «черный ящик» мы не можем использовать обычные свойства гладкости для оптимизации, такие как выпуклость или даже дифференцируемость. Следовательно, мощные стандартные методы оптимизации, такие как градиентный..

Контрфактическое объяснение — это мощный, но простой метод улучшения объяснимости моделей машинного обучения. вступление Самым большим недостатком многих моделей машинного обучения и нейронных сетей является их «черный ящик». Какая функция оказала наибольшее влияние на этот прогнозируемый результат, который мы получили для экземпляра? XAI, что означает «объяснимый искусственный интеллект», — это область исследования, которая пытается решить эту проблему моделей черного ящика. Есть в..