Если вы не знакомы с этим, Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) является федеральным агентством Министерства здравоохранения и социальных служб. который отвечает за контроль и надзор за безопасностью пищевых продуктов, лекарств, вакцин, медицинских устройств и т.п. В последнее время FDA размышляло о том, как регулировать медицинские устройства, которые управляются или основаны на ИИ, в результате нескольких недавних усилий, они опубликовали их Программное обеспечение на основе искусственного интеллекта / машинного обучения (AI / ML). в качестве медицинского устройства (SaMD) » в январе 2021 года. Чтобы понять этот план действий, вам необходимо прочитать ряд сопутствующих документов. Я сделал это для вас, и надеюсь, что в этом посте кратко изложены наиболее важные аспекты плана FDA в отношении искусственного интеллекта и машинного обучения. Обязательно прочитайте последний раздел, чтобы все это закончилось неожиданным концом.

Я начну с того, что если вы, как и я, имеете техническое образование, вы можете прийти к выводу, что FDA, вероятно, является старым бюрократическим учреждением, заполненным юристами старой школы, которые ничего не знают о новых подходах AI / ML. Я не могу ни подтвердить, ни опровергнуть это, но я скажу, что этот конкретный план действий имеет очень интересные аспекты, с которыми, я уверен, вы согласитесь, если вы работаете в области прикладного ИИ в целом и ИИ для здравоохранения в частности. В качестве тизера, вот каково видение FDA, их собственными словами:

«Способность программного обеспечения AI / ML учиться на реальных откликах (обучение) и улучшать свою производительность (адаптация) делает эти технологии уникальными среди SaMD и быстро расширяющейся областью исследований и разработок. Наше видение заключается в том, что при должным образом адаптированном регулирующем надзоре SaMD на основе AI / ML будет предоставлять безопасные и эффективные программные функции, которые улучшают качество обслуживания, получаемого пациентами. «

Вы, наверное, уже заметили, что этот план действий сосредоточен на так называемом SaMD (Программное обеспечение как медицинское устройство). SaMD - это программное обеспечение, которое само по себе выполняет медицинские функции. Это отличается от SiMD (программное обеспечение в медицинском устройстве), где программное обеспечение должно быть встроено в аппаратное обеспечение для выполнения своей медицинской функции.

План действий, который был недавно представлен, является продолжением так называемой Предлагаемой нормативной базы для модификации программного обеспечения на основе искусственного интеллекта / машинного обучения (AI / ML) в качестве медицинского устройства (SaMD) » опубликовано в апреле 2019 года. Предлагаемая структура включала ряд вопросов для обратной связи от заинтересованных сторон, которые в текущем плане действий учитываются и отвечают на , предлагая план последующих действий в 5 различных направлениях. Итак, чтобы понять текущий План действий, нам нужно сначала понять предлагаемую структуру.

«Предлагаемая концепция»?

Традиционно FDA рассматривает медицинские изделия в соответствии с надлежащими процедурами до выхода на рынок, такими как предпродажная очистка (510 (k)), классификация De Novo или предпродажное одобрение. Вообще говоря, эти предварительные утверждения должны происходить в трех ситуациях:

  • Изменение, которое вводит новый риск или изменяет существующий риск, что может привести к значительному ущербу.
  • Изменение средств контроля рисков для предотвращения значительного ущерба
  • Изменение, которое существенно влияет на клиническую функциональность или рабочие характеристики устройства.

Однако это не может использоваться в случае AI / ML, когда ожидается, что «устройство» будет постоянно улучшаться, поскольку оно получает больше данных, а модели улучшаются. Предлагаемая структура решает эту особую проблему, а также другие требования к медицинским устройствам на базе искусственного интеллекта.

Для этого сначала определяется структура категоризации рисков, основанная на: (1) значимости информации, предоставленной SaMD, для принятия решения о здравоохранении и (2) состоянии ситуации или состояния здравоохранения, которое идентифицирует предполагаемого пользователя, заболевание или состояние, а также население для SaMD. См. Таблицу ниже:

Фреймворк также определяет 3 типа не исключающих друг друга модификаций SaMD на основе AI / ML:

  1. Производительность (например, переподготовка, изменение архитектуры ИИ…)
  2. Входные данные, используемые алгоритмом (например, добавление новых типов входных данных и источников)
  3. Предполагаемое использование (например, от показателя достоверности, который является «помощью в диагностике» (управление клиническим лечением) до «окончательного диагноза» (постановки диагноза) или включения педиатрической популяции, когда SaMD изначально предназначался для взрослых возраст 18 лет и старше)

Наконец, что очень важно, в нем описывается нормативный подход к общему жизненному циклу продукта (TPLC) для SaMD на основе AI / ML, показанный ниже. TPLC имеет 4 различных регулирующих компонента (то есть точки соприкосновения с FDA): (1) набор передовых методов машинного обучения, (2) предпродажное обеспечение, (3) процесс проверки протокола изменений и (4) способы определения реальных -Мировая производительность. Давайте кратко рассмотрим эти 4 компонента.

  1. Системы качества и надлежащая практика машинного обучения (GMLP)

Ожидается, что все устройства SaMD, основанные на AI / ML, продемонстрируют аналитическую и клиническую валидацию, как описано в руководстве SaMD: Clinical Evaluation (см. Рисунок ниже). Примеры соображений включают: соответствие имеющихся данных клинической проблеме и текущей клинической практике; данные, полученные последовательным, клинически значимым и поддающимся обобщению способом; соответствующее разделение наборов данных для обучения, настройки и тестирования; и соответствующий уровень прозрачности (ясности) вывода и алгоритма, нацеленного на пользователей.

2. Первоначальная премаркетинговая гарантия безопасности и эффективности

SaMD потребуется «Предварительно определенный план изменений», который должен включать:

  • Предварительные спецификации SaMD (SPS): предполагаемые производителем изменения «производительности», «входных данных» или «предполагаемого использования».
  • Протокол изменения алгоритма (ACP): специальные методы для достижения и контроля рисков ожидаемых изменений в SPS. См. Таблицу ниже для получения более подробной информации о том, что ожидается от ACP.

3. Подход к внесению изменений после первоначальной проверки с установленными SPS и ACP

Помимо заранее определенного плана изменений, SaMD также должен указать подход к модификациям. Требования зависят от конкретной ситуации и от того, были ли утверждены SPS и ACP, указанные выше. См. Рабочий процесс ниже.

4. Прозрачность и реальный мониторинг производительности SaMD на основе AI / ML

Наконец, нормативно-правовая база требует, чтобы медицинские устройства на основе искусственного интеллекта обеспечивали прозрачность и реальную производительность. Не так много подробностей о том, как это должно быть реализовано в структуре, но в основном приводятся примеры того, как обеспечить прозрачность и мониторинг. Например, 1. Прозрачность может включать обновления для FDA, производителей устройств и сотрудников производителя, а также общественности, например врачей, пациентов и обычных пользователей. Например. 2. Мониторинг производительности в реальном мире также может быть достигнут с помощью множества предлагаемых механизмов, которые в настоящее время используются или пилотируются в FDA, таких как добавление в файл или годовой отчет.

Каждый из приведенных выше разделов содержит ряд вопросов к «заинтересованным сторонам». Кроме того, в документ включен ряд реальных примеров и сценариев, в том числе:

  • Отделение интенсивной терапии (ОИТ) SaMD
  • Мобильное медицинское приложение для лечения поражений кожи (MMA)
  • Неправильная установка трубки подачи рентгеновского излучения SaMD

Отзыв

После публикации и в течение следующих нескольких месяцев вышеупомянутый фреймворк получил 133 публичных комментария. Они поступили от крупных корпораций, таких как GE Healthcare или Anthem, а также от частных лиц. Есть даже анонимные комментарии. Все они доступны на общедоступном сайте.

Пилотная версия: УЗИ сердца под контролем искусственного интеллекта

Чтобы протестировать фреймворк в реальных условиях, FDA применило его к пилоту для регулирования устройства, разработанного стартапом под названием Caption Health. Это устройство использует искусственный интеллект для управления ультразвуком и позволяет неподготовленным зарегистрированным медсестрам выполнять ультразвуковые исследования с таким же уровнем качества, что и обученные специалисты.

Центр передового опыта в области цифрового здравоохранения

Также в контексте этих инициатив AI / ML FDA открыло Центр передового опыта в области цифрового здравоохранения в конце 2020 года. В этот центр входят многие внешние сотрудники из университетов и других некоммерческих организаций (насколько я понимаю, не для коммерческих компаний) . Его 3 перечисленные цели:

  • Подключайтесь и налаживайте партнерские отношения
  • Делитесь знаниями
  • Новаторские подходы к регулированию

План действий

Хорошо, теперь мы понимаем исходную структуру и процесс, мы готовы вернуться к плану действий на 21 января. План включает краткое изложение полученных отзывов («Что они слышали») и план дальнейших действий («Что они будут делать»), все это сгруппировано в 5 различных областях:

  1. Специальная нормативно-правовая база для SaMD на основе AI / ML
  • Что они слышали: множество предложений, включая re: предварительно определенный план контроля изменений.
  • Что они будут делать: обновлять предлагаемую структуру, включая выпуск проекта руководства по заранее определенному плану контроля изменений для общественного обсуждения.

2. Надлежащая практика машинного обучения (GMLP)

  • Что они слышали: Решительная общая поддержка GMLP + призыв к FDA поощрять гармонизацию посредством усилий по достижению консенсуса в отношении стандартов.
  • Что они будут делать. Поощрять гармонизацию разработки надлежащей практики машинного обучения с помощью таких институтов, как IEEE и AAMI.

3. Ориентированный на пациента подход, обеспечивающий прозрачность для пользователей

  • Что они слышали. Призывайте к дальнейшему обсуждению того, как технологии на основе искусственного интеллекта / машинного обучения взаимодействуют с людьми, включая их прозрачность для пользователей и пациентов.
  • Что они будут делать: после недавнего заседания Консультативного комитета по взаимодействию с пациентами, следующий шаг: провести открытый семинар о том, как обеспечить прозрачность для пользователей и повысить доверие к устройствам на базе искусственного интеллекта / машинного обучения.

4. Нормативные научные методы, связанные с систематической ошибкой и надежностью алгоритмов

  • Что они слышали: Заинтересованные стороны описали потребность в улучшенных методах оценки и устранения алгоритмической ошибки и повышения устойчивости алгоритмов.
  • Что они будут делать: поддерживать усилия регуляторной науки по разработке методологии оценки и улучшения алгоритмов, в том числе для выявления и устранения предвзятости, а также повышения устойчивости алгоритмов (например, Центры передового опыта в области регуляторных наук и инновации (CERSIs) в UCSF, Стэнфордском университете и Университете Джона Хопкинса)

5. Реальная производительность (RWP)

  • Что они слышали. Заинтересованные стороны описали необходимость ясности в отношении мониторинга реальной производительности (RWP) для программного обеспечения AI / ML.
  • Что они будут делать: работать с заинтересованными сторонами, которые пилотируют процесс RWP для SaMD на основе AI / ML.

Подводя итог, план действий предлагает:

  • Обновите предлагаемую нормативно-правовую базу в дискуссионном документе SaMD на основе AI / ML, включая выпуск проекта руководства по заранее определенному плану контроля изменений.
  • Гармонизировать разработку GMLP за счет дополнительного участия FDA в совместных усилиях по разработке стандартов и сообществ.
  • Продолжить обсуждение роли прозрачности для пользователей, в том числе проведение открытого семинара по маркировке медицинских изделий в целях обеспечения прозрачности.
  • Поддерживать регуляторные усилия по методологии оценки и улучшения алгоритмов, в том числе для выявления и устранения предвзятости, а также устойчивости и устойчивости алгоритмов.
  • Продвигайте реальные пилотные проекты в координации с заинтересованными сторонами и другими программами FDA, чтобы обеспечить дополнительную ясность.

Препятствие в последнюю минуту?

Если вы думаете, что все, что вы читали до сих пор, имеет смысл, вы будете удивлены, прочитав, что произошло дальше. В разгар хаоса администрации Трампа в последние дни HHS опубликовало запрос об освобождении большого количества устройств с искусственным интеллектом от регулирования FDA. Эта новость была довольно шокирующей для сообщества после этих усилий, и до сих пор неясно, что она означает, особенно с учетом того, что новой администрации Байдена нужно будет решить, одобрять или нет запрошенное исключение (подробнее здесь, платное или Здесь, бесплатно)

В любом случае следующие несколько месяцев обещают стать действительно важными и решающими для всего пространства ИИ в регулировании здравоохранения. Я с нетерпением жду результатов, которые предоставят хорошие возможности для агрессивных инноваций, а также безопасности пациентов и качества медицинского обслуживания.