- Интерпретируемая классификация маммографических изображений с использованием рассуждений на основе конкретных случаев и глубокого обучения(arXiv)
Автор: Алина Джейд Барнетт, Фидес Регина Шварц, Чаофан Тао, Чаофан Чен, Иньхао Рен, Джозеф И. Ло, Синтия Рудин
Аннотация . При развертывании моделей машинного обучения в медицинских учреждениях с высокими ставками мы должны убедиться, что эти модели дают точные прогнозы, соответствующие известной медицинской науке. Интерпретируемые по своей сути сети удовлетворяют эту потребность, объясняя обоснование каждого решения, сохраняя при этом равную или более высокую точность по сравнению с моделями черного ящика. В этой работе мы представляем новый интерпретируемый алгоритм нейронной сети, который использует рассуждения, основанные на прецедентах, для маммографии. Разработанная, чтобы помочь рентгенологу в принятии решений, наша сеть представляет как прогноз злокачественности, так и объяснение этого прогноза с использованием известных медицинских признаков. Чтобы дать полезные объяснения, сеть предназначена для имитации процессов рассуждений рентгенолога: наша сеть сначала обнаруживает клинически значимые семантические характеристики каждого изображения, сравнивая каждое новое изображение с изученным набором прототипических частей изображения из обучающих изображений, затем использует эти клинические признаки для прогнозирования злокачественности. По сравнению с другими методами наша модель обнаруживает клинические признаки (границы массы) с равной или большей точностью, дает более подробное объяснение своего прогноза и лучше способна различать важные для классификации части изображения.
2.Информированное машинное обучение для улучшения оценки сходства в процессно-ориентированных рассуждениях на основе прецедентов(arXiv)
Автор :Максимилиан Гофман, Ральф Бергманн
Аннотация. В настоящее время компонентам глубокого обучения (DL) в приложении Case-Based Reasoning (CBR) часто не хватает комплексной интеграции доступных знаний предметной области. Тенденция машинного обучения к так называемому информированному машинному обучению может помочь преодолеть это ограничение. Поэтому в этой статье мы исследуем потенциал интеграции знаний предметной области в нейронные сети графов (GNN), которые используются для оценки сходства между семантическими графами в приложениях CBR, ориентированных на процессы. Мы интегрируем знания двумя способами: во-первых, используется специальный метод представления и обработки данных, который кодирует структурные знания о семантических аннотациях каждого узла и ребра графа. Во-вторых, компонент передачи сообщений в GNN ограничен знанием допустимых отображений узлов. Оценка исследует качество и время обучения расширенных GNN по сравнению со стандартными моделями. Результаты показывают, что оба расширения способны обеспечить лучшее качество, более короткое время обучения или, в некоторых конфигурациях, оба преимущества одновременно.
3.Двойные системы для DeepCBR: зверинец глубокого обучения и рассуждений на основе конкретных случаев для объяснения и увеличения данных(arXiv)
Автор: Марк Т. Кин, Эоин М. Кенни, Мохаммед Темраз, Дерек Грин, Барри Смит.
Аннотация: недавно было высказано предположение, что может существовать плодотворная синергия между глубоким обучением (DL) и рассуждениями на основе конкретных случаев (CBR); что есть понимание, которое можно получить, применяя идеи CBR к проблемам в DL (то, что можно было бы назвать DeepCBR). В этой статье мы сообщаем о программе исследований, в которой решения CBR применяются к проблеме объяснимого ИИ (XAI) в DL. Мы описываем серию пар систем-близнецов непрозрачных моделей DL с прозрачными моделями CBR, которые позволяют последним объяснять первые, используя стратегии фактического, контрфактического и полуфактического объяснения. Это дублирование показывает, что функциональные абстракции DL (например, веса функций, важность функций и границы решений) могут использоваться для управления этими объяснительными решениями. Мы также поднимаем вероятность того, что это исследование также применимо к проблеме увеличения данных в DL, подчеркивая плодотворность этих идей DeepCBR.
