- Безопасность при обработке медицинских запросов в диалоговом ИИ с оценкой риска(arXiv)
Автор:Гэвин Аберкромби, Верена Ризер
Выдержка. Системы искусственного интеллекта для диалогов могут проявлять небезопасное поведение при обработке медицинских запросов пользователей, что может иметь серьезные последствия и даже привести к смерти. Таким образом, системы должны быть способны как распознавать серьезность медицинских вмешательств, так и вырабатывать ответные меры с соответствующими уровнями риска. Мы создаем корпус письменных медицинских запросов на английском языке и ответы различных типов систем. Мы помечаем их как краудсорсинговыми, так и экспертными аннотациями. В то время как отдельные краудворкеры могут быть ненадежными при оценке серьезности подсказок, их совокупные оценки, как правило, в большей степени согласуются с профессиональным мнением об идентификации медицинских запросов и распознавании типов риска, связанных с ответами. Результаты экспериментов по классификации показывают, что, хотя эти задачи могут быть автоматизированы, следует проявлять осторожность, поскольку потенциально ошибки могут быть очень серьезными.
2. Ограниченная политика оптимизации для контролируемого самообучения в диалоговых системах искусственного интеллекта(arXiv)
Автор:Мохаммад Качуи, Сонджин Ли
Аннотация. В последнее время методы самообучения, основанные на показателях удовлетворенности пользователей и контекстных бандитах, показали многообещающие результаты, позволяющие последовательно улучшать системы диалогового ИИ. Однако прямое нацеливание на такие метрики с помощью целей обучения бандитов, не соответствующих политике, часто увеличивает риск внесения резких изменений в политику, которые нарушают текущий пользовательский опыт. В этом исследовании мы представляем масштабируемую структуру для поддержки целей детального исследования для отдельных доменов с помощью определяемых пользователем ограничений. Например, мы можем захотеть обеспечить меньшее количество отклонений от политики в критически важных для бизнеса областях, таких как покупки, выделяя при этом больше бюджета на исследования в таких областях, как музыка. Кроме того, мы представляем новый метаградиентный подход к обучению, который является масштабируемым и практичным для решения этой проблемы. Предлагаемый метод адаптивно регулирует условия штрафа за нарушение ограничений с помощью метацели, которая способствует сбалансированному удовлетворению ограничений в разных областях. Мы проводим обширные эксперименты, используя данные реального разговорного ИИ на наборе реалистичных контрольных показателей ограничений. Основываясь на экспериментальных результатах, мы демонстрируем, что предложенный подход способен достичь наилучшего баланса между ценностью политики и степенью удовлетворения ограничений.
3.Обоснование дизайна аудитории в диалоговом ИИ: соотнесение ожиданий и языковых идеологий в ориентированном на выполнение задач чат-боте(arXiv)
Автор:Дорис Диппольд
Аннотация : Чат-боты все больше и больше используются в коммерческом и научном контекстах. Они помогают клиентам жаловаться на продукт или услугу или помогают им найти лучшие предложения для путешествий. Другие боты оказывают психологическую поддержку или помогают записаться на прием к врачу. В этой статье утверждается, что понимание языковых идеологий пользователей и их ожиданий взаимопонимания может быть использовано для информирования аудитории о языке бота и моделях взаимодействия, а также для обеспечения равного доступа к услугам, предоставляемым ботами. Аргумент подкрепляется тремя видами данных: смоделированные взаимодействия пользователей с чат-ботом, облегчающим запись на прием к врачу, интроспективные комментарии пользователей об их взаимодействиях и качественные комментарии пользователей после взаимодействия с ботом бронирования. В заключение я дам определение дизайна аудитории для разговорного ИИ и обсужу, как ориентированный на пользователя анализ взаимодействия чат-ботов и социолингвистически обоснованные теоретические подходы, такие как управление взаимопониманием, могут использоваться для поддержки дизайна аудитории.
