Да, это правда: искусственный интеллект приходит и изменит мир вокруг нас. На самом деле AI и ML (машинное обучение) уже здесь, и мы не можем должным образом справиться с разветвлениями, особенно с этическими проблемами. Я не чувствую себя обязанным объяснять или поддерживать приведенные выше утверждения. Откройте любой журнал, случайным образом щелкните любую статью на Medium, посетите любое публичное мероприятие в аналитическом центре; скорее всего, проблема, вызванная возрастом искусственного интеллекта, является темой. Некоторые из них будут чушью, некоторые - очень продуманными, но эта тема не совсем недооценена. Что недостаточно обсуждается, так это то, насколько неравномерно будет происходить это изменение, потому что мы неправильно понимаем и переоцениваем предпосылки для ИИ вне частного сектора.
Первое предварительное условие для ИИ - это данные - их много. Частный сектор оцифровал и сделал возможным сбор, транспортировку и повседневное использование огромных объемов ранее недоступной информации. Google, Facebook и, соответственно, их рекламные клиенты и приложения, использующие их платформы, теперь имеют огромное количество информации о нас не только потому, что мы открыто делимся этими данными, но и потому, что эти системы отслеживают, что еще мы делаем, когда мы онлайн. Вот почему, когда вы кладете пару обуви в корзину в Интернете, реклама этой обуви сопровождает вас повсюду.
Это не ИИ, но реклама с ретаргетингом - это верхушка огромного айсберга. Существует скрытый мир взаимодействующих приложений, которые передают данные туда и обратно через своего рода цифровой кровоток, постоянно устанавливая связи. Цифровая трансформация унаследованных отраслей в сочетании с новыми цифровыми средами, такими как социальные сети, привела к созданию систем систем, которые взаимодействуют друг с другом благодаря своей архитектуре. В этих средах возможны искусственный интеллект и машинное обучение, поскольку они потребляют и извлекают уроки из огромных хранилищ данных, собранных и связанных между собой приложениями. Если бы ИИ был растением, данными были бы его воздух, почва и вода, и в этих связанных экосистемах корни ИИ могут простираться далеко и широко, чтобы получить доступ к ресурсам. Чтобы эти технологии работали хорошо, необходимы огромные объемы данных. Помните, что однажды сказал Питер Норвиг из Google: «У нас нет алгоритмов лучше, чем у кого-либо; у нас просто больше данных ».
Но цифровая трансформация в нашем обществе не произошла равномерно, и в особенности государственный и социальный секторы остались позади. Здесь крупномасштабные системы систем, которые взаимодействуют друг с другом, немногочисленны и далеки друг от друга, а низкая доступность и связность данных означает, что эти сектора могут стать, так сказать, пустынями AI / ML. Посетите офисы местного приюта для бездомных и попросите предоставить их данные. (Конечно, они не позволят вам сделать это по соображениям конфиденциальности, но на мгновение представьте себя со мной.) Их данные находятся на бумаге или в закрытой базе данных, которую только один человек в организации все еще знает, как делать экспорт от, и этот человек уходит на пенсию в следующем месяце. Они, вероятно, получают значительные объемы данных от других организаций и агентств, с которыми они сотрудничают, в неструктурированных форматах: электронная почта, факс и телефонные звонки, регистрируемые людьми.
Посетите портал открытых данных любого правительственного веб-сайта, и вы увидите множество наборов данных; они обычно вручную экспортируются из автономных систем на регулярной основе (или когда-то были, пока кто-то не перестал обновлять их после смены персонала), и почти все они имеют размер, который вы можете легко загрузить на свой ноутбук за минуту или меньше с разумным интернет-соединение. Барометр открытых данных обнаружил при исследовании общедоступных данных 115 правительств, что только половина из них была машиночитаемой. Если машина не может считывать данные, ее нельзя использовать для обучения алгоритму. AI не будет расти в такой тонкой и сухой почве.
Если машина не может считывать данные, ее нельзя использовать для обучения алгоритму.
Возьмем, к примеру, вопрос о том, как ИИ будет использоваться в вооруженных силах. Есть много опасений, и это понятно. Роботы-убийцы, принимающие независимые решения, - это тема антиутопической научной фантастики. Так что сторонники искусственного интеллекта в вооруженных силах, вероятно, будут рекламировать преимущества чего-то вроде профилактического обслуживания самолетов. Подобные приложения вызывают меньше этических сложностей и рисуют позитивную картину военнослужащих и женщин, которым технологии дают возможность поддерживать конкурентоспособность нашей армии. Как гласит история, ИИ будут использовать исторические наборы данных журналов технического обслуживания самолетов и начать сообщать нам, когда детали необходимо заменить, прежде чем они выйдут из строя, снижая затраты и повышая нашу военную готовность.
Но войдите в поле и попытайтесь найти эти наборы исторических данных. Если вы предполагаете, что данные хранятся в какой-то корпоративной ИТ-системе, вы будете очень удивлены. То, что вы, вероятно, найдете (и простите за небольшую творческую лицензию, чтобы выразить мою точку зрения - это не предназначено для точного сопоставления с какой-либо конкретной воинской частью), это электронная таблица, которая насчитывает шесть месяцев, когда либо компьютер, либо персонал, ответственный за поддержание его было возложено на эту станцию. Возможно, это произошло раньше, но более ранние данные представлены в другом формате или в бумажных журналах. И каждое подразделение в каждой из служб хранит свои данные отдельно, без каких-либо стандартов для них. Люди, которые гораздо более умны в отношении ИИ, чем я, укажут, что компьютеры скоро станут достаточно умными, чтобы преодолеть проблему стандартов; они просто научатся делать выводы о том, что означают разные поля, и самостоятельно выполнять нормализацию. Но у них может не быть такого шанса; Получение доступа к этим данным от каждого отдельного подразделения, возможно, является самой сложной задачей, потому что это не техническая проблема, а юридическая, бюрократическая и человеческая. Когда мы говорим что-то вроде «у Министерства обороны есть эти данные», это звучит так, как будто любой человек достаточного ранга мог бы собрать их. На практике это просто неверно. Дело не только в Министерстве обороны; То, что цифровые средства, ближе к сценарию фрагментированной электронной таблицы, чем сценарий систем систем в большинстве правительственных контекстов и, конечно же, в большинстве некоммерческих организаций.
Одна из теорий гласит, что преимущества ИИ будут настолько велики, что правительства, в частности, будут инвестировать в системы, которые им необходимы, чтобы использовать преимущества этих технологий. Короче, модернизируют наконец. Но до сих пор у правительств было множество причин для модернизации, и, честно говоря, они пытались ежегодно тратить 200 миллиардов долларов. (Это то, что правительство США тратит на цифровые технологии.) Проблема не в том, сколько много тратит правительство; это как правительство их тратит.
Несмотря на некоторые яркие моменты изменений, правительство по-прежнему ограничено устаревшей практикой закупок, которая сосредоточена на процессах, правилах и обязательных результатах, а не на результатах, и постоянно приводит к мегапроектам, на выполнение которых уходят годы и в конечном итоге не удается создать работающее программное обеспечение. Если вы решили, что способ включить профилактическое обслуживание самолетов в наших вооруженных силах - это создать корпоративную систему для сбора этих данных (и, следовательно, избежать сценария, при котором подрядчики владеют данными и продают их обратно правительству), вы были бы глядя на бочку процесса закупок, который легко занял бы шесть лет, вероятно, задержится после этого и имел небольшой шанс когда-либо пройти мимо небольшого пилотного проекта, если бы он хотя бы сработал достаточно хорошо, чтобы зайти так далеко. И это может привести вас только к началу сбора необходимых данных. Помните, что алгоритмы хороши ровно настолько, насколько хороши данные, которые мы им скармливаем. Им нужны исторические данные за многие годы в максимально возможном количестве обстоятельств. Это маловероятно для многих функций, за которые отвечает правительство.
Все это говорит о втором предварительном условии ИИ, которое мы часто не учитываем: организационная компетентность в области цифровых технологий, основанная на устойчивых структурах и культурах. Это важно, потому что это ключевой фактор доступности данных, но он также важен сам по себе, если вы заботитесь об этике в ИИ, потому что правительство, по крайней мере, теоретически подотчетно демократическому процессу. Например, говоря о профилактическом обслуживании самолетов, вы можете возразить, что у наших военных будет такая возможность, потому что подрядчики начнут устанавливать датчики на продаваемые ими самолеты. Это, безусловно, возможно, но в то время как сенсорные устройства быстро распространяются в потребительском секторе, поскольку потребительские устройства меняются каждые год или два, срок эксплуатации большей части оборудования, используемого в вооруженных силах, измеряется десятилетиями, так что это произойдет не скоро. Более того, когда или если это произойдет, подрядчики почти наверняка попытаются продать данные и прогнозы обратно военным, вместо того, чтобы предоставлять им прямой доступ, потому что это лучшая бизнес-модель для них, и правительство останется. в очередной раз отстает в своей цифровой компетенции. Многие случаи, подобные этому, просто сводятся к той же проблеме, с которой мы начали: частный сектор имеет возможности и, следовательно, власть, в то время как правительство, на которое возложено, помимо прочего, регулирование частного сектора, ведет борьбу на все более неравномерном игровом поле.
Конечно, есть много исключений из правила медленного внедрения ИИ в правительстве, и многие примеры, на которые можно указать, предполагают, что отставание правительства было бы особенностью, а не ошибкой. Например, данные, собранные с помощью Project PRISM, проекта массового наблюдения Агентства национальной безопасности, созрели для приложений AI и ML и почти наверняка были добыты с использованием этих технологий. Однако помните, что эти данные были собраны системами, созданными частным сектором; АНБ только что получило к ним доступ. Причина, по которой правительство может это делать, заключается в том, что для кого-то было достаточно ценно собирать и хранить огромные объемы информации о людях по широкому кругу причин; потому что, как отмечали многие другие, мы являемся продуктом. Есть много областей, в которых ценность сбора и использования данных для общества очень высока, но при этом недостаточно стимулов для получения прибыли. Вот где правительство должно действовать, но не может действовать, если оно не является цифровым или конкурентоспособным.
Правительство, конечно же, попытается создать ИИ, даже не имея достаточных данных или цифровой компетенции. Вирджиния Юбэнкс в своей книге Автоматизация неравенства приводит лишь один пугающий пример: алгоритм прогнозирования, используемый в округе Аллегейни, штат Пенсильвания, нацеленный на прогнозирование того, какие дети могут стать жертвами жестокого обращения и, следовательно, должны быть удалены из своих семей. В классическом случае неспособности учесть предвзятость алгоритм использовал прокси вместо реальных мер жестокого обращения. Юбэнкс объясняет: Один из используемых им прокси называется переадресацией вызова. И проблема с этим в том, что анонимные репортеры и уполномоченные репортеры сообщают о жестоком обращении и пренебрежении к черным семьям и семьям, принадлежащим к разным расам, в три с половиной раза чаще, чем о белых семьях . Должны быть подробные и вдумчивые дискуссии о том, должны ли алгоритмы играть какую-либо роль в изъятии ребенка из их семьи, но давайте не будем судить о потенциале ИИ по примерам вроде этого, в которых правительство покупает то, что продается как ИИ, но является бедным родственником ИИ. которые используют большие наборы данных, лучше учитывают предвзятость и гораздо более тщательно проверяются. Это не означает, что ИИ в частном секторе всегда хорош (конечно!), Просто организация без основной цифровой компетенции обречена на плохое использование ИИ с потенциально катастрофическими последствиями.
Все это, вероятно, звучит как отличная новость для тех, кто хочет замедлить наш марш к будущему искусственного интеллекта. Проблема в том, что это не так. Преимущества, которые компании могут получить от использования ИИ для достижения своих целей, обеспечат это (включая тех, кто продает товары государственному сектору). На самом деле это означает, что разрыв между секторами нашего общества, вероятно, вырастет до таких размеров, что сектора, которые еще не подверглись цифровой трансформации - большая часть государственного и социального секторов - могут буквально никогда не уловить вверх. Этика ИИ столь же сложна в государственном и социальном секторах, как и в частном секторе, но растущий разрыв в возможностях сам по себе проблематичен. Хотим ли мы, чтобы уязвимые группы населения и национальные проблемы были связаны корыстными решениями частного сектора? Мы не до конца осознаем последствия распространения ИИ; есть также последствия, которые мы не до конца осознаем из-за крайне неравномерного продвижения этого явления.
Искусственный интеллект может означать, что разрыв между секторами нашего общества, вероятно, вырастет до таких размеров, что большая часть государственного и социального секторов, возможно, никогда не сможет наверстать упущенное.
Усилия вокруг «ИИ во благо» направлены на то, чтобы позволить ИИ оказывать положительное влияние, и они достойны похвалы; но целенаправленные усилия здесь один за другим будут сталкиваться с препятствиями, связанными с плохой средой обработки данных и низкой цифровой компетенцией в правительстве и некоммерческих организациях. Что необходимо, так это более комплексные усилия по устранению коренных причин данных и цифровых проблем в государственном и социальном секторах - работа, которую мы должны делать в любом случае, чтобы правительство работало на людей независимо от того, - прежде чем революция ИИ превратит всю эту проблему в массовые овердрайв. Это невероятно тяжелая работа, но мы должны ее делать.
Нам нужен эффективный, дееспособный государственный и социальный сектор. Правительство и некоммерческие организации играют решающую роль в том, что имеет наибольшее значение в нашей жизни: наше здоровье, наша безопасность, наши уязвимые дети, наши друзья и соседи, восстанавливающиеся после стихийных бедствий, наши ветераны, наша национальная инфраструктура, наша реакция на климатический кризис. Правительства и защитники также призваны служить важным сдерживающим фактором корпоративной власти. Мы уже живем в мире с огромной асимметрией между возможностями частного сектора, государственного и социального секторов, и мы сталкиваемся с будущим, в котором эта асимметрия будет расти экспоненциально из года в год.
Как решить эту проблему, должно быть среди вопросов, которые мы задаем себе, сталкиваясь с эпохой искусственного интеллекта.
