- Диаграмма социотехнического разрыва в объяснимом ИИ: структура для устранения пробела в XAI (arXiv)
Автор: Упол Эхсан, Кустув Саха, Мунмун Де Чоудхури, Марк О. Ридл.
Аннотация: системы объяснимого ИИ (XAI) носят социотехнический характер; таким образом, они подвержены социотехническому разрыву — разрыву между техническими возможностями и социальными потребностями. Однако наметить этот разрыв сложно. В контексте XAI мы утверждаем, что составление диаграммы разрыва улучшает наше понимание проблемы, что может рефлекторно дать действенную информацию для улучшения объяснимости. Используя два тематических исследования в разных областях, мы эмпирически выводим основу, которая облегчает систематическое картирование социотехнического разрыва, связывая рекомендации по ИИ в контексте XAI и объясняя, как их использовать для устранения разрыва. Мы применяем структуру к третьему случаю в новой области, демонстрируя ее возможности. Наконец, мы обсуждаем концептуальные последствия этой структуры, делимся практическими соображениями по ее операционализации и предлагаем рекомендации по переносу ее в новые контексты. Внося концептуальный и практический вклад в понимание социотехнического пробела в XAI, эта структура расширяет пространство для проектирования XAI.
2. На пути к таксономии объяснений XAI на основе линейной алгебры (arXiv)
Автор : Свен Номм
Абстрактный :
