Когда хорошего врача просят объяснить, как он пришел к диагнозу, он может вернуться к тому моменту, когда пациент вошел в больницу. Иногда они могут пойти еще дальше, вернуться к тому моменту, когда пациент попал в больницу. Диагностика — это сочетание результатов анализов, медицинских знаний и интуиции (часто называемой клиническим гештальтом), и, хотя ваш врач не всегда может быть прав, процесс постановки диагноза позволяет точно определить момент, когда процесс пошел не так. .

Однако определение этого момента и диагностического процесса в целом представляет собой уникальную задачу для исследователей, разрабатывающих машинное обучение для медицины. Разработчики полагаются на такие показатели, как точность, чувствительность и специфичность, чтобы убедиться, что их модели работают правильно, только чтобы столкнуться с замешательством со стороны клиницистов, когда они не могут объяснить, как их модель пришла к определенному выводу. Мы видели это в 2018 году, когда врачи-онкологи, работавшие с ранней версией программного обеспечения IBM Watson Oncology, были недовольны работой Watson в клинике и не понимали, как он составляет планы лечения рака.

Исследователи из Вашингтонского университета начали добиваться успехов в этой области, разработав машинное обучение, которое объясняет само себя врачам. В этом случае их программа под названием Prescience анализирует как историю болезни, так и медицинские данные в режиме реального времени от пациентов под наркозом во время операции, чтобы отслеживать риск развития у пациента гипоксемии (низкое напряжение кислорода в артериальной крови), состояние, связанное с остановкой сердца. послеоперационная инфекция и инсульт. Затем Prescience объясняет, как было рассчитано это значение риска, выделяя клинические факторы в истории пациента (например, ИМТ или возраст) и в оперативных данных в режиме реального времени (например, пульс, кровяное давление), которые положительно или отрицательно влияют на этот расчет. Этот анализ традиционно выполняется анестезиологом на основе его знаний истории болезни и данных в режиме реального времени от стандартных хирургических датчиков, поэтому Prescience предназначен для работы в качестве помощника в операционной.

Как система Prescience может выявить признаки гипоксемии? Что ж, он правильно предсказал, разовьется ли у пациента гипоксемия примерно в 81% случаев. Если это звучит мало, исследователи также изучили, насколько точно анестезиологи предсказывали развитие гипоксемии у пациента на основе тех же медицинских данных, которые использовались для тренировки Предвидения, как самостоятельно, так и с помощью Предвидения. По сравнению с одним только Prescience, анестезиологи без Prescience были правы примерно в 66% случаев, а при использовании Prescience — до 77%. Другими словами, Prescience лучше прогнозировала гипоксемию, чем анестезиологи, даже когда Prescience помогала анестезиологам в принятии решений.

Означает ли это, что Prescience нашла информацию в истории пациента, которую врачи могут не заметить? Интересно, что он, по-видимому, опирается на те же факторы риска, что и врачи — оксигенация крови, кровяное давление и то, является ли больница, специализирующаяся на лечении травм, тремя наиболее важными переменными в прогнозе начала гипоксемии как для анестезиологов, так и для Prescience. Однако другие переменные, такие как ИМТ, пульс и частота дыхания, были важны для Prescience, но не для анестезиологов, что позволяет предположить, что Prescience может использовать корреляции, невидимые анестезиологам, при прогнозировании значения риска.

Хотя маловероятно, что вы увидите Prescience в своей местной операционной в ближайшем будущем, вы, вероятно, увидите другие приложения машинного обучения, включенные в вашу медицинскую помощь, если вы еще этого не сделали. Одним из многих препятствий, с которыми сталкивались и будут сталкиваться разработчики при расширении использования машинного обучения в здравоохранении, является их способность объяснять решения программы как врачам, так и пациентам. Такие программы, как Prescience, демонстрируют, что точность предсказания только увеличивается за счет объяснения, и что открытие «черного ящика» машинного обучения дает возможность узнать больше о программах и людях, которые их используют.

Теперь откиньтесь на спинку стула и сосчитайте в обратном порядке от 10, 9, 8…