Что, если радиологический искусственный интеллект будет использован против нас, вместо того, чтобы помогать нам?

Мы все слышали серьезные философские аргументы и дебаты между предпринимателями-рок-звездами и гениальными учеными - но остановились ли мы, чтобы задуматься, как именно революция радиологического искусственного интеллекта будет разворачиваться на нашей территории?

В этом году в RSNA я задавал один и тот же вопрос всем, с кем разговаривал: что, если радиологический ИИ попадет в чужие руки? Судя по тому, как толпы голосовали ногами, упаковывая каждую лекцию по ИИ, радиологи, безусловно, были бы хорошо осведомлены о надвигающемся сейсмическом сдвиге в этой профессии, но я хотел знать, рассматривал ли кто-нибудь возможные побочные эффекты. , непредвиденные последствия внедрения такой революционной технологии в клиническую сферу?

Хотя я очень воодушевлен перспективами и потенциалом алгоритмического расширения в радиологической практике, я также немного нервничаю по поводу того, что больше недоброжелателей используют это для хищнической финансовой выгоды. Это то, что я называю сценарием «Кошмар на улице ML» ...

К счастью, эта реклама - подделка (я ее смоделировал), но я хотел с полной ясностью изобразить медицинско-правовой кошмар, который потенциально может развернуться.

Предположим сначала пару вещей:

  1. Алгоритмы искусственного интеллекта в радиологии достигают точки, в которой они клинически подтверждаются как сверхчеловеческие. Я думаю, что это почти определенно, если учесть достаточно времени. Мы еще не совсем подошли - в конце концов, не было ни одного рандомизированного контрольного исследования или исследования фазы III, демонстрирующих это, - но они скоро появятся. Множество ранних данных свидетельствуют о том, что алгоритмы действительно более точны, чем радиологи, в обнаружении конкретных вещей, если они обучены на достаточно качественных аннотированных данных.
  2. Судебный процесс по поводу медицинской халатности позволяет проводить ретроспективный анализ историй болезни пациентов, в том числе визуализационные исследования. Так обстоит дело в настоящее время и является пищей для юридических фирм типа «No Win, No Fee», которые охотятся на недовольных пациентов, которые считают, что их помощь не соответствует их ожиданиям. В суде эти компании просто должны доказать вне всяких разумных сомнений, что врач действовал небрежно и не выполнял свои обязанности в соответствии с их практическими правилами. Это делается путем простого привлечения свидетеля-эксперта для подтверждения того, что была допущена ошибка. В радиологии это сделать чрезвычайно просто, поскольку радиологи гораздо чаще, чем специалисты любой другой специальности, фотографируют свои ошибки.
  3. Рентгенологический отчет - это письменный документ с цифровой подписью и прослеживаемый документ, который связывает радиолога с его мнением. После написания (и до тех пор, пока не будут внесены поправки и сообщения об изменениях не сообщены), этот отчет является неизменной частью истории болезни пациента и является частью общего диагностического процесса. Если окончательный диагноз неверен или даже полностью опущен, тогда имеются как графические, так и письменные доказательства, подтверждающие наличие медицинской ошибки.

31% американских радиологов за свою карьеру сталкивались с обвинениями в злоупотреблении служебным положением, причем пропущенный диагноз был наиболее распространенным. Рак груди возглавляет список, за ним следуют пропущенные переломы и рак легких. Существует даже недавняя тенденция к увеличению количества судебных разбирательств, отчасти вызванная неумолимым ростом рабочей нагрузки и стремлением к эффективности, а также консолидацией поставщиков медицинских услуг, что в конечном итоге приводит к воспринимаемому снижению качества.

Однако, чтобы возбудить дело о злоупотреблении служебным положением, пациент должен обратиться в юридическую фирму и запросить медицинскую карту в качестве доказательства. По сути, пациенты сами решают, инициировать судебный процесс или нет.

Вот где я начинаю беспокоиться об искусственном интеллекте в радиологии. Представьте, что юридическая фирма начинает рекламировать напрямую потребителям точно так же, как сегодня поступают любители несчастных случаев. В конце концов, пациентам разрешается запросить копию своих изображений и отчета, и они могут свободно делиться ими с тем, кому они выберут. Если юридическая фирма сможет убедить пользователей передать свои медицинские записи и изображения для «бесплатной» проверки с использованием ИИ, мы можем начать видеть снежный ком обнаруживаемых ретроспективных клинических ошибок.

Приведем пример:

Г-н Смит видит в Интернете рекламу беспроигрышной услуги, чтобы проверить, правильно ли было сообщено о его сканировании. Он загружает записи о медицинском обслуживании у своего поставщика медицинских услуг, включая компьютерную томографию грудной клетки, и загружает их на сервер юридической фирмы. За несколько секунд алгоритмы обнаруживают узелок в легком 5 мм и легкую дегенерацию на уровне T10 / 11, оба результата не были включены в исходный отчет. Сайт рекомендует проконсультироваться с юристом, который затем предлагает им подать в суд за злоупотребление служебным положением. Г-н Смит говорит, что у него были боли в спине, если подумать, и теперь он обеспокоен раком легких. Ему сделали повторную компьютерную томографию, теперь узелок 8 мм. Судебный процесс передается в суд, вызывается радиолог, первоначально сообщивший об этом, и свидетель-эксперт соглашается с алгоритмом, согласно которому, да, явно имеется узелок в легких и некоторая дегенерация позвоночника. Судья стучит молотком, и бинго выплачивается несколько миллионов долларов.

Пока ничего особо неприятного. Было доказано, что пропущенный вывод был успешным, и судебный процесс был успешным. Единственная разница здесь по сравнению с сегодняшней ситуацией состоит в том, что задействован алгоритм.

(Надеюсь, никто не пропустил этот диагноз…)

Вот где становится по-настоящему страшно ...

Если через этот процесс пройдет достаточное количество пациентов, хищническая юридическая фирма может подать коллективный иск против поставщика медицинских услуг. Это совершенно новый уровень судопроизводства. Теоретически коллективный иск позволяет обвинению запрашивать доступ ко всем медицинским записям, потенциально даже не связанным с пациентами, которых они представляют. Это можно сделать во имя безопасности пациентов, заявив, что все радиологическое отделение непригодно для практики, и поэтому каждый, кто проходит лечение, имеет право знать.

Судья мог разрешить ретроспективный анализ всего архива больничного каталога сканированных изображений - сотен тысяч изображений за один раз. Алгоритмы радиологического искусственного интеллекта могут легко обработать эти данные за считанные часы и потенциально найти МИЛЛИОНЫ узелков в легких, о которых не сообщалось. Юридические последствия и размер выплат огромны, они разрушают карьеру и разрушают профессию.

Я искренне надеюсь, что мы никогда не попадем в такую ​​ситуацию.

Некоторые скажут, что этого никогда не допустят. Ретроспективная экспертиза с использованием новых инструментов, которые ранее не были доступны, несправедливо и неэтично, и я с этим согласен. Однако я опасаюсь, что злонамеренные третьи стороны используют радиологический искусственный интеллект только для поиска ошибок и ошибок, а затем используют свидетеля-человека для их подтверждения. Таким образом, в суде дело человека против человека, точно так же, как сегодня ведутся иски о халатности. Единственная разница в том, что ИИ использовался для выявления случаев в беспрецедентном масштабе.

То, что я выделил, является полностью теоретическим, хотя и не полностью невозможным. Искусственный интеллект может значительно улучшить рабочий процесс радиологии и расширить возможности радиологов. Если использовать в правильных руках в правильном контексте, это произведет революцию в этой области. Однако, если он попадет в чужие руки и будет использован против нас, нас ждет поистине ужасающее будущее, которое только повредит нашей профессии и нашей способности заботиться о пациентах.

Теперь возникает интересный этический вопрос: хотим ли мы, радиологи, защитить себя от ретроспективного алгоритмического перекрестного допроса, или мы обязаны оказывать нашим пациентам наилучший уход, даже если это означает обнаружение всех наших предыдущих ошибок?

Какой бы ни была ваша точка зрения, будет интересно посмотреть, как будет развиваться ландшафт искусственного интеллекта в радиологии. Я надеюсь, что этот кошмар не разбудит нас от мечты о достижении того, что мы намеревались сделать!

Если вы, как и я, взволнованы будущим радиологического искусственного интеллекта, и хотите обсудить эти идеи, пожалуйста, свяжитесь с нами. Я в Твиттере @drhughharvey

Если вам понравилась эта статья, будет действительно полезно, если вы нажмете "Рекомендовать" и поделитесь ею.

Об авторе:

Д-р Харви - сертифицированный радиолог и клинический академик, прошел обучение в Национальной службе здравоохранения и ведущем европейском научно-исследовательском институте рака, ICR, где он дважды был удостоен звания научного писателя года. Он работал в Babylon Health, возглавляя команду по нормативно-правовым вопросам, получил первую в мире маркировку CE для службы сортировки, поддерживаемой искусственным интеллектом, а теперь является радиологом-консультантом, членом комитета по информатике Королевского колледжа радиологов и советником стартапа AI. компании, в том числе Kheiron Medical.