Как общество, мы очарованы технологиями, которых даже не понимаем, и часто обязаны им.

Скорее всего, вы читаете это на устройстве, которое отслеживает больше данных о вас и мире, в котором вы живете, чем вы даже можете начать понимать. Компромисс заключается в том, что чем больше ваш телефон «знает», тем меньше трений вы испытываете, пытаясь запомнить глупые вещи, такие как пароль к вашей учетной записи Seamless, - и, в свою очередь, тем больше о вас знает бесшовные или кто-то вроде них.

Различные приложения, которые вы используете на этом устройстве каждый день - от направлений, пока вы едете до интеллектуального термостата в вашем доме, - развертывают алгоритмы, чтобы рекомендовать и влиять на ваше поведение и окружающую среду, не беспокоя вас за ваш сознательный вклад. И, если на горизонте появятся венчурные доллары или обещание SPAC - возможно, есть другое название для причудливой работы ног, например, искусственный интеллект или машинное обучение, может быть, даже федеративное обучение для крутых ребят в конце класса! Для простоты назовем их AI / ML / FL.

Это было весело и весело, когда быть луддитом означало просто попросить ИТ-специалистов установить Google Chrome на ваш рабочий компьютер и притвориться, что знает, что делает API. Черт, мы даже можем притвориться, что понимаем значение NFT или криптовалют в более широком смысле - возможно, даже почему они такие чертовски дорогие.

Я не хочу показаться легкомысленным, но я думаю, что мы загнали себя в угол, где лишь горстка разработчиков с эзотерическими навыками создала технологии, которые влияют почти на все стороны современной жизни - и большинство из нас до сих пор этого не делает. знаете, что, черт возьми, делает API. Я не знаю, плохо это по своей природе или хорошо, но я твердо уверен, что мы должны очень внимательно подумать над этим вопросом.

Сегодняшние технологии - это не просто инструмент, который мы используем или не используем на досуге. Мы живем в мире, где технологии затрагивают, формируют и все больше влияют на нашу жизнь. Говорим ли мы о глубоких подделках или просто об эхо-камерах, индуцированных алгоритмом, которые мы можем найти в Интернете - строки кода не всегда могут вносить изменения «в реальную реальную реальность», но они, безусловно, могут изменить то, как мы воспринимаем реальность.

Это не статья об ошибке прогресса и инноваций, это вопрос всего общества - знаем ли мы, что мы надеемся улучшить, и учли ли мы затраты?

Человеческая история изобилует чудесами и, казалось бы, невозможными нововведениями, и я никоим образом не предлагаю, чтобы эта эпоха была менее интеллектуально любопытной или амбициозной в построении лучшего мира, чем тот, в который мы вошли.

Но для сравнения: технологические инновации в прошлом в основном предлагали людям повышенную эффективность - например, простой шкив, облегчающий нагрузку. Даже самые последние технологические разработки, такие как обработка текстов и интернет-протоколы, увеличили производительность и охват, иногда уменьшая усилия, необходимые приматам, сидящим за своими клавиатурами. В вашем принтере постоянно заканчиваются чернила, и он упорно отказывается печатать, не отключив его от сети, но в тех редких случаях, когда он сотрудничает, это просто находка.

Я делаю различие между новейшими и наиболее востребованными технологиями. Эта надвигающаяся волна технологических инноваций на самом деле не в том, чтобы предложить людям умножение силы или удобство. Вместо этого мы создаем технологии, которые больше похожи на людей, чем на инструменты. Это приятная сделка для корпорации, но неясно, будет ли это выгодным компромиссом для отдельных потребителей. Пока еще нет мнения о том, является ли это положительной новостью, тем не менее, это реальность, в которой мы живем.

Чтобы было ясно, вопрос не в том, будет ли AI / ML / FL продолжать влиять или даже принимать решения в нашей жизни - этот корабль отплыл. Вместо этого нам нужно спросить, как мы будем вооружены, чтобы понимать и осмысленно взаимодействовать с AI / ML / FL с любой истинной автономией. Если мы не можем понять технологии, влияющие на нашу жизнь, у нас нет возможности проявить свободную волю, чтобы выбирать, когда и как нам взаимодействовать с AI / ML / FL.

Это хорошо и хорошо, что наши приложения для знакомств направляют нас к людям, с которыми мы, вероятно, найдем взаимную симпатию - виноватых. И я не могу представить себя в этой пандемии без алгоритмов, упрощающих мой опыт работы с Amazon. Но где провести черту, если мы даже не понимаем, с кем нам нужно строить здоровые границы?

Простой пример: всякий раз, когда мы проходим медицинские процедуры, поставщики медицинских услуг должны уведомлять нас о рисках и потенциальных осложнениях, которые могут возникнуть при этих процедурах. Возможно, у нас не было первоклассной органической химии, но цель состоит в том, чтобы предоставить непрофессионалам достаточное понимание и информацию о рисках, с которыми они сталкиваются, чтобы они могли принять осознанное решение, давать ли согласие на медицинскую процедуру.

Проблема в том, что истинный AI / ML / FL - это не просто чушь для сбора средств - не статичен, а динамичен и развивается. В идеале со временем он улучшается - можно сказать, учится. И хотя создатели-люди могут или, по крайней мере, должны быть в состоянии рассказать миру, какие входные данные были в коде, если они тщательно задокументировали процесс обучения, видимость созданного ими черного ящика может заставить даже самих создателей изо всех сил пытаться объяснить, что они построили. Не говоря уже о том, почему он делает то, что делает.

Продолжая пример с медицинскими процедурами, в будущем AI / ML / FL, вероятно, войдет в кабинет вашего врача несколькими способами. Но в целом алгоритм, помогающий в вашем будущем посещении, вероятно, будет основан на одном из двух методов развития: контролируемом или неконтролируемом обучении. Поскольку ботаники AI / ML / FL коллективно ахают, я сильно упрощу следующее:

  • Контролируемое обучение предполагает значительно большее участие, вмешательство и обратную связь со стороны человека при обучении конвейера, что вы можете рассматривать как улучшение AI / ML / FL в целом в решении любой конкретной задачи, для выполнения которой он был обучен. , но менее способные к "обобщенным" приложениям. Думайте о контролируемом обучении как о олимпийском прыгуне с шестом, который на удивление хорошо выполняет одно упражнение, но не может пройти полный круг по трассе лучше, чем все мы.
  • Неконтролируемое обучение, с другой стороны, представляет собой подход, который позволяет AI / ML / FL наблюдать за широким спектром данных, устанавливая связи, которые могут быть или не быть очевидными для человеческого глаза. Например, человек и AI / ML / FL могут согласиться, что изображение изображает кошку, но они могут не прийти к такому выводу по той же причине. Преимущество здесь, выражаясь болезненно заниженными терминами, состоит в том, что подход неконтролируемого обучения может быть менее хрупким или подверженным неудачам при столкновении с второстепенным или новым примером. Возможно, это 3-х сезонный спортсмен, который может заниматься любым видом спорта, в котором есть мяч - они не элитные, и большинство из нас не может понять, как это возможно, но дерьмовые тренировки сделают это за вас.

Распространение, дальнейшая разработка и внедрение различных итераций AI / ML / FL способствуют достижению целей повышения безопасности потребителей, расширения доступа к здравоохранению, а также многих других ключевых социальных амбиций. Точно так же - эти авансы не бесплатны.

Возвращаясь на мгновение к идее информированного согласия на медицинские процедуры - поскольку мы принимаем все больше и больше инновационных методологий и включаем элементы или даже прямую диагностику с помощью AI / ML / FL в нашу систему здравоохранения, почти наверняка это принятие на какое-то время опередит понимание. Как с точки зрения снижения затрат, так и расширения доступа к медицинской помощи для недостаточно обслуживаемых слоев населения мы уже видим относительно активное внедрение AI / ML / FL в странах с социализированным здравоохранением, а также в регионах с ограниченным доступом к поставщикам медицинских услуг и особенно дорогостоящим диагностическим инструментам. Иными словами, будущее наступило, но в США FDA все еще выясняет это.

Теперь, несмотря на то, во что они хотят верить, большинство докторов наук не технологи. И хотя у поставщиков медицинских услуг есть годы обучения, чтобы понимать, а затем сообщать пациентам о рисках и потенциальных осложнениях, связанных с традиционным здравоохранением, AI / ML / FL представляет собой нечто вроде «неизвестного, неизвестного». До тех пор, пока мы, как общество, не поймем, почему технологии, которые мы используем, приносят те результаты, которые они дают, мы не сможем начать осмысленно рассматривать вселенную потенциальных результатов - хороших или плохих. На чисто гипотетическом уровне возникает вопрос - может ли пациент дать информированное согласие, которое, вероятно, было уже преувеличением до добавления AI / ML / FL, если сами MD не владеют принципами работы этих технологий?

В интересах полного раскрытия информации я работаю с командой очень способных профессионалов, которые сосредоточены на понимании, смягчении и создании формы защиты потребителей с помощью страхования, исходя из того, что эти технологии можно понять - если мы решим приложить такие усилия.

Точно так же я работаю с многочисленными венчурными и поддерживаемыми PE компаниями HealthTech, стремящимися улучшить результаты для пациентов и расширить доступ к недорогой помощи с помощью AI / ML / FL различными способами. Я ни в коем случае не против разработки, принятия или внедрения этих технологий.

Однако я убежденный сторонник понимания и рассмотрения всех последствий AI / ML / FL в ЛЮБОМ контексте.

В то время как компании и основатели, с которыми я имею удовольствие общаться в сфере AI / ML / FL, искренне стремятся построить лучший мир, все люди и все технологии подвержены ошибкам. Вот почему объективные уроки недавних трагедий авиакомпаний должны потрясти нас до глубины души, когда мы задумаемся о том, кому мы доверяем защищать потребителей от любых продуктов или технологий, особенно от технологий, которые так мало из нас действительно понимают.

Означает ли это повышение уровня образования и управляемой учебной программы или независимый аудит систем, единственный неправильный ответ - это то, что мы делаем в настоящее время. В нынешнем виде у нас есть федеральные агентства, которые не понимают лежащих в основе технологий, которые они стремятся регулировать, и работают против своих контрагентов, а не С, создавая неявно враждебную динамику, а федеральные агентства просто не в восторге от этого. Не готов к победе.

Не имеет значения, говорим ли мы о FAA, FDA, FTC, ATF, SEC или любом другом федеральном агентстве - когда они позиционируются против, а не в сотрудничестве с их соответствующими контрагентами, инновации останавливаются, но риски сохранятся или даже эскалация, потому что мы по своей сути общество, основанное на желании строить новые и лучшие вещи, даже когда родители предупреждают нас, что печь горячая.

Как проницательно заметил Джефф Голдблюм в фильме «Парк Юрского периода»: «Жизнь - эээ - находит путь».

Даже в некоторых из наиболее тщательно изучаемых контекстов - применения AI / ML / FL в здравоохранении с помощью устройств, одобренных FDA - возникает вопрос, есть ли достаточная прозрачность в производительности и справедливости этих устройств в различных демографических группах. Базовый анализ в Nature добавляет дополнительные детали.

Хотя это всего лишь один вариант использования и, по общему признанию, в настоящее время довольно узкий, он также свидетельствует о том, насколько сложным может быть применение AI / ML / FL - даже в контролируемых научных условиях, не говоря уже о беспилотных автомобилях или при рекомендациях контент на платформах социальных сетей. Становится очевидным, что, хотя очень немногие из нас по-настоящему понимают AI / ML / FL, недостаток потребительского опыта не может служить оправданием для срезания углов, поскольку все больше и больше заинтересованных сторон стремятся к большей объяснимости и контролю качества в приложениях, ориентированных на потребителя.

Итак, если мы принимаем вышеизложенное как истину и неизменно продолжаем использовать эти технологии AI / ML / FL, будь то на практике или даже только в наших кампаниях по сбору средств, мы должны анализировать их соответствующие достоинства так же, как если бы они были людьми. - если не подробнее, внимательно.

Некоторых может легко отбросить опасения, если мы ограничимся представлением о том, что AI / ML / FL творит чудеса в приложениях для знакомств и алгоритмах ценообразования. Важно помнить, что всякий раз, когда мы говорим о приложениях AI / ML / FL в лицензированных профессиях, таких как архитектура или право, это строго регулируемые сектора, которые обычно используют образование, лицензирование и постоянный надзор для защиты потребителей.

Сказано иначе - если AI / ML / FL делает то, что вам или мне потребуется для получения лицензии или разрешения, кто отвечает за лицензирование или разрешение этих технологий, и действительно ли мы все придерживаемся одних и тех же стандартов? Мы знаем, что люди подвержены ошибкам, но мы не должны слепо предполагать, что AI / ML / FL менее верны. Напротив, все больше данных свидетельствует о том, что предвзятость, справедливость и беспристрастность требуют целенаправленных усилий в ответственных алгоритмах обучения, и прямо говорится, что многие приложения AI / ML / FL терпят неудачу. Мы не можем считать само собой разумеющимся, что любой конкретный AI / ML / FL соответствует стандарту, который мы, как общество, должны принять или принять.

Хотя пока не существует стандартизированного контроля качества - или стандарта валидации и верификации, - умные деньги говорят, что должны и в конечном итоге будут. Будет ли это вопросом лет или десятилетий, еще предстоит увидеть, но по мере того, как мы делаем все возможное, чтобы технологии занимали ведущее место в нашей жизни - от беспилотных автомобилей до страхового страхования, - мы не можем держать голову в стороне. Как я часто говорю компаниям, я советую - это не рассчитанный риск, если вы не знаете о недостатках, связанных с тем, что вас отметят. Точно так же то, что мы не понимаем, как работает AI / ML / FL, не означает, что мы должны действовать без дальнейшего рассмотрения этого вопроса.

Конечно, у меня может быть низкотехнологичное мышление, но я считаю, что разумный образ действий здесь - дважды отмерить и один раз отрезать.