Originally published on my Substack. Subscribe for free to support my work!
Каким бы ни было ваше мнение о Путине, в этом он был прав.
Хотя мы часто слышим об искусственном интеллекте (ИИ) и о том, как он влияет на граждан по всему миру, означает ли это массовую технологическую безработицу, дискриминацию и предвзятость в алгоритмах, невероятные медицинские достижения и коммерческое внедрение, есть один сектор, который мчится полным ходом. вперед с исследованиями и разработками, в то же время летая под всеми нашими радарами: военными.
Интересы национальной безопасности стимулируют развитие ИИ в самых могущественных вооруженных силах и правительствах мира, и это идет в ущерб другим целям, ориентированным на человека. Это один из наиболее тревожных аспектов нашего нынешнего пути развития ИИ, учитывая невероятное количество ресурсов и денег, которые можно было бы вместо этого использовать для улучшения жизни граждан по всему миру, а не рисковать ими с помощью нового типа современных технологий. военное дело.
Нынешняя гонка ИИ-вооружений, которая разворачивается среди самых способных стран мира, так же опасна, если не более опасна, чем все, что мы видели. Со всей нынешней риторикой вокруг ядерной войны легко забыть о другом оружии, таком как ИИ. Если наступит время, когда данная нация достигнет превосходства ИИ, она будет обладать огромной силой, которую можно будет использовать. Мы все еще находимся на начальных этапах этой гонки вооружений ИИ, и по мере того, как ИИ продолжает экспоненциально прогрессировать, неизбежно появятся невероятно мощные военные технологии.
Одно из основных различий между ИИ и гонкой ядерных вооружений заключается в том, что первая активно связана с коммерческими приложениями, а вторая обычно ориентирована на военную стратегию. Другими словами, стартапы разрабатывают алгоритмы, которые затем перепрофилируются правительствами для гнусных приложений. Например, то же самое программное обеспечение, разработанное такими компаниями, как Google и Uber, для беспилотных транспортных средств, можно легко изменить для беспилотных танков. В США военный ИИ продвигает не Пентагон, а частные компании.
В этой гонке участвуют три основные страны: США, Китай и Россия. Однако по мере того, как все больше стран приобретают возможности, эта гонка будет открываться. Каждая страна использует свой собственный подход к полностью автономным системам, управлению информацией, распознаванию лиц и многому другому.
Фокус России на информации
Россия отстает от двух лидеров, США и Китая, но не из-за недостатка усилий. Отчеты предполагают, что нация на самом деле продвигается вперед намного быстрее, чем ожидалось, когда дело доходит до ИИ и боевых технологий.
В Отчете за 2021 год, подготовленном по заказу Пентагона США, подробно описано, как Россия разрабатывает ИИ для получения информационного преимущества на поле боя, при этом на подход правительства в значительной степени повлияла предполагаемая угроза со стороны США.
Россия сосредоточена на разработке инструментов управления информацией, которые могут предоставить солдатам ряд важных военных данных, которые могут обеспечить их безопасность. Согласно отчету, российские военные стратеги придают большое значение «информационному доминированию на поле боя».
Некоторые из национальных инициатив ИИ по совершенствованию управления и принятия решений включают системы раннего предупреждения и противовоздушной обороны, а также те, которые помогают в обучении, логистике, техническом обслуживании и закупках. В отчете также говорится, что правительство использует ИИ и данные о предыдущих вооруженных конфликтах для анализа меняющихся геополитических событий. Быстрое развитие этих систем ПВО связано с серьезной озабоченностью по поводу воздушных атак США.
В то время как Россия мчится вперед с военным ИИ, она сильно ограничена, учитывая, что ее инициативы в области ИИ в основном финансируются государством. У него нет других областей финансирования, найденных в США и Китае.
США и Китай: лидеры
США и Китай являются двумя ведущими мировыми лидерами в области разработки военного ИИ. Основной интерес Китая к искусственному интеллекту действительно можно проследить до марта 2016 года, когда система DeepMind AlphaGo от Google победила Ли Седоля, чемпиона по го среди людей. Этот момент транслировался по всему Китаю, что вызвало массовый всплеск интереса ИИ к тому, как технология может помочь в процессах принятия решений.
Спустя семь месяцев после момента AlphaGo США выпустили три отчета о подготовке к миру, управляемому ИИ. В этих отчетах подробно описывался национальный стратегический план и потенциальные экономические последствия, которые сигнализировали китайцам о том, что США продвигаются вперед намного быстрее, чем Китай. В июле 2017 года правительство Китая опубликовало план развития, направленный на то, чтобы к 2030 году сделать Китай мировым лидером в области ИИ, и он включал миллиарды долларов на финансирование стартапов и исследований в области ИИ.
В течение последних нескольких лет Китай, возможно, обогнал США в качестве лидера в области искусственного интеллекта, продвигаясь по пути к достижению цели 2030 года. В книге Кай-Фу Ли Сверхспособности ИИ автор подробно описывает, как президент Китая Си Цзиньпин признал, что продвижением ИИ в Китае должны руководить коммерческие компании, а не правительство. Затем он решил назначить лидерами пять китайских компаний: Baidu, Alibaba, Tencent, iFlytek и SenseTime. Всего двенадцать месяцев спустя китайские стартапы в области ИИ инвестировали больше, чем их американские коллеги, а к 2018 году Китай подал в 2,5 раза больше патентов на технологии ИИ.
США создали Объединенный центр искусственного интеллекта (JAIC) в качестве государственного органа, ответственного за роль страны в этой гонке. В июле 2020 года JAIC выпустила свою инициативу JAIC 2.0, которая включала шесть инициатив миссий, связанных с совместными боевыми действиями, здоровьем бойцов, преобразованием бизнес-процессов, уменьшением угроз и защитой, совместной логистикой и совместной информационной войной. Инициатива Joint Warfighting разрабатывает несколько проектов «тактического искусственного интеллекта». Эти проекты вращаются вокруг автономных систем, но мало что известно о том, какие другие проекты находятся в разработке.
И в Соединенных Штатах, и в Китае открытие, разработка и внедрение технологий искусственного интеллекта осуществляются частными фирмами и университетскими исследователями, а военный истеблишмент подхватывает и внедряет их везде, где это возможно.
Какие технологии развиваются?
Эта гонка вооружений ИИ между ведущими странами приводит к быстрому развитию конкретных технологий. Одной из главных областей и, возможно, самой важной из всех, являются полностью автономные системы вооружения. И в этой области Китай и США тесно связаны. До 2017 года основным поставщиком коммерческих дронов для армии США была DJI, производитель дронов из Шэньчжэня, контролировавший 70% мирового рынка.
Еще в 2015 году более 3000 исследователей, ученых и руководителей подписали письмо с просьбой к администрации Обамы запретить автономное оружие. В 2019 году Хьюман Райтс Вотч сообщила, что Россия, США и несколько других стран, инвестирующих в автономное оружие, борются против предложенных переговоров по новому договору, ориентированному на этические принципы таких систем, такие как сохранение контроля со стороны человека. Были предприняты серьезные усилия по запрету этих роботов-убийц, тысячи ученых и экспертов по искусственному интеллекту, более 20 лауреатов Нобелевской премии мира и более 160 религиозных лидеров выразили поддержку. В дело вступают и крупные корпорации: еще в 2018 году Google опубликовал набор этических принципов и обязался не разрабатывать ИИ для использования в оружии.
В то время как этические лидеры во всем мире изо всех сил стараются предотвратить эти системы, похоже, что полностью автономное оружие уже не за горами, поэтому правительства должны начать внедрять меры безопасности и человеческий контроль над ними.
Китай действительно опережает США, когда речь заходит о технологиях распознавания лиц, в основном из-за культурных различий между населением и их взглядов на конфиденциальность. Такие компании, как Hikvision и Dahua Technology, контролируют треть мирового рынка камер видеонаблюдения, а компания Wuhan Guide Infrared, специализирующаяся на инфракрасных и тепловизионных изображениях, тесно сотрудничает с правительством Китая. Одним из примеров, демонстрирующих полную уступку на этом фронте со стороны Соединенных Штатов, является то, что китайское правительство предоставило своим четырем ведущим фирмам по распознаванию лиц доступ к более чем 1,4 миллиардам фотографий граждан. Эти возможности распознавания лиц были полностью продемонстрированы во время пандемии COVID-19.
Некоторые из других основных областей ИИ, которым помогает гонка вооружений ИИ, включают инфраструктуру 5G, финансовые технологии, речевые технологии, вычислительную мощность и многое другое.
Что поставлено на карту?
Гонка вооружений ИИ может означать больше войн. С ростом внедрения военизированного ИИ в виде автономных систем вооружения для участия в боевых действиях потребуется меньше людей-солдат. Весьма вероятно, что мы придем к моменту, когда солдаты-люди будут не нужны, а войны можно будет вести за компьютерами.
То, как разворачивается война по всему миру, резко изменится, когда самые большие потери будут в виде компьютерных чипов и ИИ. Хотя во многих отношениях это можно рассматривать как положительный момент, это также означает, что правительства будут нести меньшую ответственность за свои действия, когда гражданские лица больше не узнают о человеческих жертвах.
Это не означает, что все в безопасности и не будут участвовать в этих войнах. Будет проще, чем когда-либо, атаковать гражданское население с помощью технологий. Например, ИИ можно использовать для нацеливания на электросети, финансовые системы и другую важнейшую инфраструктуру, которая удерживает общество от сползания в хаос. А с ослаблением ограничений, меньшим давлением со стороны общественности и быстрым развитием технологий мы приближаемся к одному из самых опасных моментов в нашей истории. Все это еще раз подчеркивает, почему так важно установление этических стандартов и прозрачности, и мы должны добиваться их соблюдения.
