Приход искусственного интеллекта (ИИ) в здравоохранение действительно не за горами. При безопасном и ответственном использовании он может решить давние проблемы и создать новые возможности для улучшения результатов лечения пациентов и более удобного опыта для пациентов и врачей, и все это при меньших затратах.

Тем не менее, в то время как Опрос Optum по ИИ в здравоохранении на 2020 год показал, что лидеры здравоохранения с оптимизмом смотрят на преимущества ИИ, трое из четырех руководителей сообщили, что опасаются предвзятости, проникающей в результаты ИИ. Учитывая широкую осведомленность о проблемах безопасности, связанных с ИИ, тот факт, что даже некоторые из крупнейших и наиболее авторитетных организаций мира пытаются их преодолеть, свидетельствует об их сложности.

Итак, если крупные компании борются с безопасностью ИИ, как инновационные стартапы в области цифрового здравоохранения, работающие на переднем крае технологических открытий, решают те же проблемы? В приведенном ниже интервью Харви Уильямс, специалист по обработке и анализу данных в Кембриджском стартапе в сфере высоких технологий electronicRx, делится своим опытом.

Работа electroRx сосредоточена на оцифровке человеческого тела путем определения физиологической среды и применения самых современных методов обработки сигналов и машинного обучения (ML) для выявления цифровых биомаркеров, которые помогут контролировать болезни до их появления. Команда разрабатывает демократичное масштабируемое решение для удаленного мониторинга показателей жизнедеятельности с использованием только смартфона пациента. Усилия Харви в настоящее время сосредоточены на обучении прогностического алгоритма измерения артериального давления с камеры смартфона.

Итак, вы находитесь в интересном положении; раньше вы работали аналитиком данных в компании электронной коммерции с оборотом 20 миллиардов долларов, а теперь вы один из шести членов команды специалистов по данным в стартапе, занимающемся глубокими технологиями. На что был похож этот переход?

Во многих отношениях довольно радикально! Проблемы и вызовы, над которыми мы работаем, развиваются довольно быстро. Будучи частью такой небольшой команды, я научился тому, что стартапы работают лучше всего, когда люди работают в очень междисциплинарной манере, и я думаю, что это здорово, что вы можете носить много шляп, запуская и запуская проекты. Вместо того, чтобы просто сосредоточиться, скажем, на анализе или моделировании, вам нужно понять и работать в соответствии с потребностями клинициста, информирующего проект. Вам также необходимо настроить всю инфраструктуру в облаке. Было невероятно интересно перейти на в основном научную роль.

В конечном счете, тем не менее, я думаю, что применение определенных принципов, таких как использование передовых методов разработки программного обеспечения и сохранение верности своим клиентам (или пациентам!) невероятно важно независимо от размера организации. Так что было здорово иметь опыт работы на обоих концах спектра.

И теперь, когда ваша роль связана с работой с данными и алгоритмами, которые будут развернуты в клинических условиях и окажут реальное влияние на здоровье людей, она должна добавить еще один уровень сложности. Приходилось ли вам учиться работать с данными по-другому в сфере здравоохранения?

Теперь, когда моей конечной целью является создание полезных продуктов для клиницистов и пациентов, следование передовой практике и соблюдение научной строгости становятся еще более важными. Такие проблемы, как дисбаланс классов и смещение наборов данных, являются обычным явлением при применении машинного обучения (МО) в здравоохранении, особенно когда тип данных, которые вам нужны, разреженный и разного качества.

Имея опыт работы в области математики и аналитики, я быстро понял, насколько важно полное понимание вашего набора данных, когда данные носят физиологический характер. Сначала возникали простые вопросы, например: какую информацию мне следует опустить? Это шум или реальная информация о теле? Очень здорово, что у меня есть возможность привлечь экспертов в предметной области из остальной части команды и углубить свое понимание медицины и физиологии, а также того, как эти области взаимодействуют с наукой о данных.

Принято считать, что ИИ обладает большим потенциалом для обеспечения устойчивости наших систем здравоохранения, но нам необходимо обеспечить его безопасность, этичность и ответственность, чтобы избежать любых непреднамеренных негативных последствий его внедрения. С какими основными проблемами безопасности ИИ вы сталкиваетесь?

Размышляя о реальных последствиях разрабатываемой нами технологии, я понял, что здравоохранение создает собственный набор проблем с безопасностью ИИ. Первая и главная задача — обеспечить хорошую работу вашей модели в условиях сдвига распределения. Под этим мы подразумеваем, что демонстрация некоторой предсказательной способности в одной среде не обязательно может быть перенесена в другую. Точность вашей модели может резко измениться, когда вы вводите ее в новую среду. На это могут повлиять такие факторы, как тип пациентов, с которыми вы имеете дело, или даже то, в какой больнице они находятся, поэтому важно убедиться, что то, над чем вы работаете, обобщает.

Еще один важный фактор, который мы должны учитывать, — это черный ящик некоторых используемых алгоритмов. Полезна ли эта модель для пользователя, если мы не можем понять, почему она делает такой прогноз? В идеале вы хотите знать, когда качество сигнала плохое и ваша модель перешла в режим, в котором она вышла из строя, чтобы вы знали, когда на это можно не обращать внимания!

И, наконец, не могли бы вы немного рассказать нам о том, как вы и остальная команда решаете эти проблемы?

В конечном счете, я думаю, все сводится к хорошей научной практике. С самого начала мы сосредоточились на том, чтобы быть строгими и дотошными при определении сильных и слабых сторон нашего подхода. На практике это действительно должно исходить из культуры команды и компании в целом, что легко для такого стартапа, как мы, у которого есть очень прочная научная основа, но может быть сложно для более традиционных, хорошо зарекомендовавших себя компаний. укорениться. Ключом к этому являются собственные инструменты, которые у нас есть, от построения графиков до оценки систем прогнозирования, которые помогают проводить такой анализ.

Мы также с готовностью осознаем ограничения машинного обучения и следим за тем, чтобы на каждом этапе пути мы помнили о реальных последствиях. Определение того, где можно внедрить технологию, основанную на данных, и есть ли хорошие шансы на то, что она будет работать в продукте, и планировать будущее.

В целом, безопасность ИИ — очень интересная и новая область исследований, и нам нравится общаться с остальной частью нашего сообщества, чтобы узнать больше о том, как другие решают эти проблемы.

Свяжитесь с нами для продолжения общения: https://www.electronrx.com/contact-us

Или подпишитесь на нас в LinkedIn и Twitter, чтобы быть в курсе нашей работы.

Copyright © 2021 ЭлектронРх. Все права защищены.