- Продольные данные и награда за семантическое сходство за создание отчета о рентгенографии грудной клетки (arXiv)
Автор: Аарон Николсон, Джейсон Даулинг, Беван Купман.
Аннотация: В настоящее время уровень выгорания врачей-рентгенологов высок из-за большого и постоянно растущего числа рентгенограмм грудной клетки (CXR), требующих интерпретации и составления отчетов. Многообещающе, что автоматическое создание отчетов CXR может помочь рентгенологам в выполнении этой трудоемкой задачи и улучшить уход за пациентами. Предыдущие методы создания отчетов CXR были ограничены из-за их диагностической неточности и отсутствия согласованности с рабочим процессом рентгенологов. Чтобы решить эти проблемы, мы представляем новый метод, который использует продольную историю, доступную из предыдущего исследования CXR пациента, при создании отчета, который имитирует рабочий процесс радиолога. Мы также предлагаем новую награду за обучение с подкреплением на основе CXR-BERT, которая фиксирует клиническое семантическое сходство между отчетами, чтобы еще больше улучшить создание отчетов CXR. Мы проводим эксперименты на общедоступном наборе данных MIMIC-CXR с показателями, более тесно связанными с оценкой отчетов рентгенологов. Результаты показывают, что сбор продольного анамнеза пациента улучшает создание отчетов CXR и что CXR-BERT является многообещающей альтернативой нынешнему современному вознаграждению. Наш подход генерирует радиологические отчеты, которые количественно больше соответствуют отчетам рентгенологов, чем предыдущие методы, и одновременно предлагают лучший путь для клинического перевода. Наша контрольная точка Hugging Face (https://huggingface.co/aehrc/cxrmate) и код (https://github.com/aehrc/cxrmate) общедоступны.
2. Улучшение моделирования семантического сходства текста с помощью трехмерной сиамской сети (arXiv)
Автор : Цзяньсян Цзан, Хуэй Лю
Аннотация: Сиамские сети приобрели популярность как метод моделирования семантического сходства текстов. Традиционные методы полагаются на операцию объединения для сжатия семантических представлений из блоков Transformer при кодировании, что приводит к двумерным семантическим векторам и потере иерархической семантической информации из блоков Transformer. Более того, эта ограниченная структура семантических векторов сродни плоскому ландшафту, что ограничивает методы, которые можно применять при последующем моделировании, поскольку они могут перемещаться только по этой равнинной местности. Чтобы решить эту проблему, мы предлагаем новую трехмерную сиамскую сеть для моделирования семантического сходства текста, которая отображает семантическую информацию в многомерное пространство. Трехмерные семантические тензоры не только сохраняют более точную информацию о пространстве и признаках предметной области, но также обеспечивают необходимые структурные условия для комплексных стратегий последующего моделирования для их сбора. Используя это структурное преимущество, мы представляем несколько модулей для усиления этой 3D-структуры, уделяя особое внимание трем аспектам: извлечение признаков, внимание и объединение признаков. Наши обширные эксперименты с четырьмя критериями семантического сходства текста демонстрируют эффективность и результативность нашей 3D-сиамской сети.
