Эта статья является частью серии статей, посвященных преподавателям, об Аруне Кумаре, доценте кафедры информатики, инженерии и науки о данных (Институт науки о данных Халыджиоглу) Калифорнийского университета в Сан-Диего. См. первую статью на тему Масштабируемая аналитика и научные круги против промышленности. Кумар в настоящее время преподает DSC 102: Системы для масштабируемой аналитики. Его исследовательские интересы связаны с управлением данными и системами машинного обучения. В свободное время он любит ходить в походы, писать стихи, вести блог и смотреть фильмы.
Аналитика данных на основе AI/ML уже проникла во многие уголки нашей жизни. Поиск Google работает на основе систем машинного обучения, рекомендательные системы Amazon влияют на покупательское поведение, а диалоговые помощники улучшают взаимодействие с клиентами. Тем не менее, это только начало.
Неизбежно и, к сожалению, распространение технологических открытий сопровождается спорными приложениями, такими как распознавание лиц в видеонаблюдении и прогнозная обработка для создания пузырей фильтров на Facebook. Кумар подчеркивает важность обеспечения надлежащего контроля и регулирования технологических приложений.
«Анализ данных и наука о данных уже по-разному влияют на людей, от очень незначительных до очень важных вещей, и нам просто нужно быть более внимательными, когда мы создаем такие продукты, к последствиям для реальных людей». — сказал Кумар.
Кумар считает, что из-за этих непреднамеренных последствий технологий академические круги должны изучать технологии и науку этическим образом, а политики должны регулировать применение этих результатов, не ограничивая инновации. Технологическое развитие может двигаться быстро, и регулирование должно наверстать упущенное, чтобы запретить вредоносные приложения, например, злонамеренное использование GAN для создания дипфейков или этически проблематичного редактирования генов с помощью CRISPR.
«Мое личное мнение таково: пока исследование этически обосновано и существуют меры безопасности, мы не должны ограничивать его только ради того, чтобы кто-то мог им злоупотребить», — сказал Кумар.
Кумар объясняет, что существуют разные ориентиры для принятия решения о том, какой риск готов терпеть тот или иной вид общества. Разные общества и структуры управления принимают разные решения о том, перевешивают ли выгоды риски настолько, чтобы донести передовые технологии до масс.
Это спектр, и здесь нет однозначного или простого ответа. Одним из ориентиров является демократия, широко практикуемая в западном мире. Избранные должностные лица должны быть проинформированы об этих новых технологиях, чтобы принимать решения как об их рисках, так и о применении. Когда мы несем ответственность за избрание политиков и законодателей, мы также должны понимать технологии и их влияние на общество.
С другой стороны спектра широко распространены технологии распознавания лиц и наблюдения в Китае, и его правительство в настоящее время создает социальный кредитный рейтинг для всех своих граждан.
«Есть такие крайности: одно общество с демократической системой, одно общество, в котором правительство имеет всю полноту власти», — сказал Кумар. «Я не думаю, что есть универсальный ответ. Разные общества терпимы к разным рискам и компромиссам».
Демократизация и доведение технологий до сведения общественности в значительной степени относится к сфере PR, журналистики и научных коммуникаций, и при этом они должны избегать сенсаций. Однако важную роль в просвещении масс играют также исследователи и ученые.
«С академической и исследовательской точки зрения мы должны приложить все усилия, чтобы помочь в таком виде работы, такого рода общении с общественностью, и я думаю, что это очень важно. То же самое относится ко всем этим новым технологиям: искусственному интеллекту, редактированию генов и т. д.».
На пересечении технологий и общества, которое охватывает практически все технологии, становится ясно, что мы должны внедрять технологии ответственно и этично. Но детали процесса для этого не столь ясны — то есть, как мы определяем, что должно регулироваться, а что нет, и как мы обучаем общественность этим технологиям — особенно в обществе, в котором так много движущихся частей, и потому что у всех обществ разные подходы. Несомненно, что для людей во всех секторах чрезвычайно важно сотрудничать, ответственно внедрять инновации и демократизировать технологии на благо всех.
