По данным Центров по контролю и профилактике заболеваний, сердечные заболевания являются основной причиной смерти в Соединенных Штатах, ежегодно унося жизни каждого четвертого человека, или около 647 000 американцев.
План действий FDA состоит из пяти шагов, которые подробно описаны в документе.
1. Нормативно-правовая база для программного обеспечения как медицинского изделия на основе ИИ/МО: предварительные спецификации (SPS) программного обеспечения как медицинского изделия описывают, «какие» аспекты производитель намеревается изменить посредством обучения, в то время как протокол изменения алгоритма (ACP) объясняет, как алгоритм будет обучаться и изменяться, оставаясь при этом безопасным и эффективным.
2. Надлежащая практика машинного обучения (GMLP): это относится к управлению данными, извлечению признаков, обучению, интерпретируемости, оценке и документированию, которые аналогичны надлежащей практике разработки программного обеспечения или системы качества. Разработка и внедрение этих методов важны не только для руководства отраслью и разработкой продуктов, но и для облегчения надзора за этими сложными продуктами благодаря соблюдению производителями хорошо зарекомендовавших себя передовых методов и/или стандартов.
3. Подход, ориентированный на пациента, включающий прозрачность для пользователей: Агентство признает, что устройства на основе ИИ/МО имеют уникальные особенности, которые требуют активного ориентированного на пациента подхода к их разработке и использованию с учетом таких вопросов, как удобство использования, справедливость, доверие и ответственность. Обеспечение прозрачности является ключевым аспектом подхода, ориентированного на пациента, что особенно важно для медицинских устройств на основе ИИ/МО, которые могут обучаться и меняться со временем и которые могут включать алгоритмы, демонстрирующие степень непрозрачности. Несколько заинтересованных сторон подчеркнули уникальные проблемы маркировки устройств на основе ИИ/МО и необходимость четкого описания производителями данных, которые использовались для обучения алгоритма, релевантности его входных данных, логики, которую он использует (когда это возможно), роли он намеревается воспроизвести с его выходных данных и доказательств производительности устройства. «Агентство стремится поддерживать подход, ориентированный на пациента, включая необходимость прозрачности от производителя для пользователей в отношении работы устройств на основе AI/ML, чтобы пользователи понимали преимущества, риски и ограничения этих устройств. С этой целью в октябре 2020 года Агентство провело заседание Консультативного комитета по взаимодействию с пациентами PEAC, посвященное устройствам на основе ИИ/МО, чтобы получить от пациентов информацию о том, какие факторы влияют на их доверие к этим технологиям. ”
4. Научные методы регулирования, связанные со смещением и надежностью алгоритма, поддержка научных усилий по разработке методологий для оценки и улучшения алгоритмов машинного обучения, в том числе для выявления и устранения смещения, и для оценки и продвижения надежности алгоритма. «Известно, что оказание медицинской помощи зависит от таких факторов, как раса, этническая принадлежность и социально-экономический статус; поэтому вполне возможно, что в алгоритмы могут быть непреднамеренно внесены предубеждения в нашей системе здравоохранения. Агентство признает критическую важность того, чтобы медицинские устройства подходили для целевой группы пациентов, отличающихся расовым и этническим разнообразием, а также потребность в улучшенных методологиях для выявления и улучшения алгоритмов машинного обучения».
5. Реальные характеристики (RWP) ): сбор данных о реальной производительности программного обеспечения как медицинского изделия может позволить производителям понять, как используются их продукты, определить возможности для улучшения и активно реагировать на проблемы безопасности или удобства использования, тем самым снижая риск, связанный с изменениями программного обеспечения как медицинского изделия. Поэтому будут использоваться и поддерживаться эксперименты по мониторингу производительности в реальном мире, работая с заинтересованными сторонами на добровольной основе.
Постоянное участие заинтересованных сторон будет иметь решающее значение для успеха этой работы, которую будет координировать Центр передового опыта в области цифрового здравоохранения. .

Пандемия не только ускорила цифровизацию, но и стимулировала, как и во все периоды тяжелого кризиса, развитие и научные исследования, особенно в области здравоохранения, которые по праву стали центром внимания и целью компаний, научных сообществ и правительств во всем мире.

Ранее в этом году Центр устройств и радиологического здоровья (CDRH) Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) выпустил документ «Искусственный интеллект/машинное обучение (AI/ML) — план действий на основе программного обеспечения как медицинское устройство (SaMD)». », в котором были представлены новые функции в жизненном цикле продуктов с использованием инструментов ИИ для улучшения здравоохранения и повышения их операционной эффективности. В апреле 2019 года была открыта дискуссия по теме, которая отражена в этой самой «бумажке» от января 2021 года.

Эта работа является частью пятиэтапной работы Управления по санитарному надзору за качеством пищевых продуктов и медикаментов, которая начинается с анализа SaMD (программное обеспечение как медицинское устройство), но также направлена ​​на внедрение SiMD (программное обеспечение в медицинском устройстве).

В документе говорится: «В рамках этой предлагаемой структуры FDA … выразило надежду на реальную прозрачность и мониторинг производительности со стороны производителей, что могло бы позволить FDA и производителям оценивать и контролировать программный продукт с момента его предпродажной разработки. через постмаркетинговые показатели.». И далее: «7 февраля 2020 г. FDA объявило о своем разрешении на продажу по пути De Novo (классификация De Novo — это процесс классификации на основе рисков) первое программное обеспечение для УЗИ сердца (программное обеспечение под названием Caption Guidance является аксессуаром для совместимых систем ультразвуковой диагностики и использует искусственный интеллект, чтобы помочь пользователю получать изображения сердца пациента с приемлемым диагностическим качеством), которое использует искусственный интеллект для управления пользователями. Это революционное устройство примечательно не только своим новаторским использованием, но и тем, что производитель использует заранее определенный план управления изменениями для включения будущих изменений.».

Вот документ «https://www.fda.gov/media/145022/download».

Все права защищены

Рафаэлла Агемо, юрист

План действий FDA по ИИ/ОД