[Эта история изначально была опубликована на CloudRaker.com/magazine]

Трудоустройство — деликатная тема. Скажите любому студенту, что степень, которую он заработал за 3 года, будет бесполезной, прежде чем он сможет погасить студенческие ссуды, и внезапно званый обед потеряет свой цвет. Автоматизация рабочих мест — это не шутки, но и не гарантия — возможно, искусственный интеллект — это не все, чем он должен быть.

Возможно, более вероятным будет компромисс между ИИ, который берет все на себя, и тем, что он терпит неудачу — ИИ действует как еще один инструмент.

Бенджамин Телониус Фелс – генеральный директор компании Macro-Eyes, занимающейся внедрением ИИ в медицине. Он и его небольшая команда решают сложные проблемы использования наших разрозненных медицинских данных. Как менеджер по продукту, его работа решает мельчайшие детали того, как программное обеспечение работает с врачами и пациентами. Его ежедневные решения определяют отношения между человеком и машиной. Наш разговор ниже показывает, что нам предстоит пройти долгий путь, прежде чем заменят врачей.

Как вы убеждаете врачей передать часть своей работы машине?

Передача контроля машинам — это проблема, над которой я впервые начал работать, когда торговал деривативами. Я создавал алгоритмы, которые могли бы торговать, пока меня не было рядом. Алгоритмы делают вещи, которые мы не понимаем. Вы должны верить, что даже если он будет принимать решения, которые смущают вас, на каком-то основании существует своего рода структурная логика, с которой вы согласны. И это сводится к интерфейсу, с точки зрения того, как вы видите и понимаете эти решения и эту логику.

Мы хотим, чтобы врач мог наблюдать за решениями, которые принимает машина, и понимать, почему машина идентифицировала определенных пациентов или события как похожие. Затем она может начать взаимодействовать с более высокими уровнями понимания или абстракции. Врач может в какой-то степени прыгнуть в будущее. Она может видеть, что может произойти с пациентом.

В чем заключается «интеллектуальность» технологии, над которой вы работаете, а не в том, что это просто очень сложная поисковая система?

То, что мы создаем, — это возможность находить пациентов или медицинские события, которые похожи по сотням параметров (группа крови, история болезни и т. д.), и где любой из этих параметров может отсутствовать. Когда мы глубоко размышляем о поиске сходства, мы понимаем, что на самом деле мы думаем об общей сущности пациентов или событий, на которые мы смотрим.

«Подобие» на математическом и концептуальном уровне — сложная проблема. Одной из первых вещей, которые мы создали, был способ, с помощью которого врач мог сказать: «Хорошо, этот матч, который вы мне показали, особенно хорош или плох»; а затем машина «обучается» на основе данных врача.

Кажется, критически важным элементом сохранения доверия является создание у врача ощущения, что он принимает решения.

Да, вы правы, и они принимают решения. Я не заинтересован в создании какого-то робота-доктора, потому что не думаю, что это на самом деле полезно по ряду причин. Я даже не думаю, что технологии или инфраструктура действительно существуют.

Вот где я очень критически отношусь к ИИ. Хочу подчеркнуть, что строю для среды, в которой эксперт взаимодействует с интеллектуальной системой; и этот эксперт приносит знания и понимание, которых нет в системе. Я не говорю данные; Я говорю информацию, которая является следующим шагом вверх.

Мы наблюдаем вещи и знаем вещи, которые не отражены в данных; и это потому, что мы еще не живем в мире, где контролируется каждая частица реальности. Слава Богу, что это не так.

Врачи всегда говорят о походке — о том, как пациент ходит или как он проявляет боль — это один из примеров важнейшей информации в виде подсказок, которые трудно получить, просто глядя на данные, по крайней мере, те данные, которые у нас есть. в настоящее время.

Важно то, отражают ли данные правду. Затем возникает вопрос, как привнести в нашу интеллектуальную машину то, что мы, люди, знаем, видим или понимаем, а машина — нет. Для меня это Святой Грааль. Кисть плюс человек, искусно использующий эту кисть, делают очень многое.

Что мешает прогрессу ИИ в здравоохранении?

Если у вас есть неверные данные, и вы скармливаете их самой умной машине в мире, машина выдаст какую-то тарабарщину. Здесь мы также должны вернуться к взаимодействию между человеком и машиной. Есть куча компаний, занимающихся интересной работой в этом направлении. Даже заставить машину очищать данные самостоятельно — очень сложная задача, потому что машина должна понимать, что такое данные — что такое правильные данные, какие неправильные данные, какие могут быть переменные или значения и когда что-то является аномалией, которая имеет смысл или аномалия введена неправильно.

Я всегда привожу аналогию: у нас есть клиент, у которого сломался холодильник, поэтому он звонит нам по телефону и говорит: «Мой холодильник только что сломался, но вы не можете его посмотреть. Ты можешь починить это?" Трудно устранить проблему, не имея возможности увидеть ее подробно, но это необходимо, поскольку наши клиенты часто работают с данными, содержащими защищенную медицинскую информацию.

По-настоящему важным моментом, который я хочу отметить, является то, что данные должны воспроизводить реальность. Когда вы начинаете думать о том, что даже очень маленькие экземпляры данных на самом деле не воспроизводят реальность, вместо этого они изменяют реальность; и если решения принимаются на основе данных, которые повлияли на реальность, мы сталкиваемся с некоторыми опасными сценариями — чрезвычайно опасными с медицинской точки зрения.

Можете ли вы сказать, что люди чрезмерно увлечены ИИ?

Меня очень беспокоит то, что вокруг ИИ и машинного обучения так много шумихи, что, когда эта шумиха встречает промышленных клиентов, корпоративных клиентов и не дает результатов за три секунды, я беспокоюсь, что клиенты скажут: «К черту все это. Мы думали, что вы, ребята, сможете предсказать будущее за два часа и решить все наши проблемы. Очевидно, вы не можете; и нам это больше не интересно».

Оглянитесь на 20-25 лет назад, когда был первый бум машинного обучения и искусственного интеллекта. По сути, у нас была засуха, потому что заказчики технологии сказали: «Да, мы пробовали, это не сработало». Поэтому, когда вы преувеличиваете важность вещей и преуменьшаете невероятную сложность их работы, вы заставляете людей думать, что это «подключи и работай».

Технологии, даже то, что мы запускаем на наших компьютерах, требует обучения — они не работают сразу, прямо из коробки.

////

Фото Сары Уэлле, обложка Этьена Сен-Дени