1945 год был годом. Год, когда человечество изменило и произвело революцию в военном искусстве, придав автоматическое питание оружию с изобретением Советского Союза Автомат Калашникова (широко известного как АК-47). Это событие не только повлияет на то, как мы используем оружие во время войны, но и перенаправим внимание ученых и инженеров на идею автоматизации и системной автономии. Хотя использование автоматизированных систем вооружения предшествовало этому нововведению (с изобретением пистолетов Максима, использовавшихся британцами во время их колониального завоевания Африки в начале девятнадцатого века), изобретение АК-47 показывает, как пулеметы ускоряют процесс разрушения. за счет использования преобладающих технологий, используемых в индустриальную эпоху, тем самым повышая эффективность оружия на службе войны.

Постепенно военные ученые и инженеры продолжали поиски использования преобладающих промышленных технологий при разработке смертоносного оружия, таким образом изменяя военную и боевую технику. По мере развития таких скрытых исследований мировые державы и влиятельные правительства начали видеть силу этих операций, поскольку они могут способствовать сохранению их глобальной военной, социальной и экономической мощи. Например, Советский Союз, получив конкурентное преимущество благодаря разработке АК-47, снова потряс мир в 1957 году, представив спутник - первый искусственный спутник Земли с способность вращаться вокруг Земли во время записи жизненно важной информации до того, как через три недели разрядится батарея. Эта новая технология подтверждает, что у Советов есть военная мощь для запуска международной баллистической ракеты, способной поразить любую точку Соединенных Штатов - ее заклятого врага.

В ответ на эти действия президент Эйзенхауэр (тогдашний президент Соединенных Штатов в 1958 году) призвал к созданию двух новых технологических организаций - НАСА (Национальное управление по аэронавтике и исследованию космического пространства) и ARPA (агентство Advanced Research Project, позже переименованное в DARPA - Defense. Агентство перспективных исследовательских проектов). В то время как цель НАСА заключалась в том, чтобы в основном обеспечить Соединенным Штатам конкурентное преимущество в космических путешествиях и разведке (которые можно было бы расширить до поддержки военных приключений), DARPA само по себе было создано для предотвращения «стратегической неожиданности », Как в прошлом году. Эта миссия не только позволяет DARPA активизировать свои исследования в соответствии с существующими технологиями, но также заглядывать в будущее и приобретать технологии будущего для использования сегодня. Для достижения своей миссии организационная структура DARPA была разработан, чтобы отличаться от остальной части своего военного аналога. Что касается Пола Шарра в своей книге под названием Army of None, DARPA инвестирует свои ресурсы только в проекты, которые «достойны DARPA», решая технологические проблемы, которые другие военные ведомства могут посчитать невозможно. Эти проекты включают ARPANET, предшествующую технологию, которая привела к изобретению Интернета. Другое изобретение включает систему GPS и первый в истории боевой самолет-невидимку - HAVE Blue. Все эти и многие другие изобретения организации DARPA подтверждают одно - DARPA использует любые средства, чтобы получить технологию, которая еще не является широко жизнеспособной, чтобы возглавить мировое военное пространство.

В мире, который в настоящее время гудит вокруг идеи искусственного интеллекта и робототехники, можно легко предсказать с авторитетной уверенностью, что команда DARPA уже завершила то, что мы называем фазой новых технологий, и уже в будущем. В этом можно убедиться, посмотрев на их предыдущие приключения. Одним из ее глубоких исследований является ее контролируемая автономная система оружия под названием Aegis. Корабельная система обороны, описываемая ВМС США как централизованная, автоматизированная система командования и управления (C2), а также система управления вооружением, которая была разработана как единая система вооружения. Под термином «Total» военно-морской флот США имел в виду, что он может действовать как автономное смертоносное оружие. Чтобы получить дальнейшее представление о принципе работы боевой системы Aegis, необходимо немного уйти от определения автономной системы вооружения.

Фразу «Автономная система вооружения» можно лучше объяснить, если учесть два основных определения - «системы вооружения» и «автономность». Система вооружения - это единица полного цикла, способная самостоятельно выполнять смертоносную защиту. Он состоит из датчика для поиска и обнаружения вражеских целей, элемента принятия решений, который решает, поражать ли цель, и системы летального уничтожения (может быть лазер, ракета, атомное оружие или другие виды боеприпасов), которая поражает цель. цель. Главный определяющий фактор для системы оружия - это компонент принятия решений. В большинстве случаев решение о поражении целей принимает человек. Эти системы называются управляемой автономной системой вооружения. Для полностью автоматизированной системы люди не в курсе. Как следует из определения, автономия - это способность машины выполнять задачу или функцию самостоятельно без вмешательства какой-либо внешней силы или команды. Автономность используется для обозначения систем, достаточно сложных, чтобы их внутренний когнитивный процесс был менее понятен пользователю, который понимает задачу, которую система должна выполнить, но не обязательно то, как она будет ее выполнять, т.е. пользователь определяет цель, но система имеет возможность определять свой собственный путь в достижении цели.

Возвращаясь к боевой системе Aegis Combat System, система вооружения может работать с использованием четырех различных настроек - ручная настройка, в которой участие в бою должно быть санкционировано человеком, и путь к получению инструкций. определяется радиолокационной системой. В полуавтоматической настройке процесс взаимодействия для создания последовательности стрельбы для радиолокационного пути автоматизирован, но окончательное решение принимает пользователь. Параметр Auto SM - это всего лишь небольшая корректировка предыдущего параметра с дополнительной автоматизацией процесса взаимодействия, но окончательное право остается за человеком-оператором. Специальный автоматический режим - единственная настройка, при которой человек не участвует в последовательности стрельбы и настройке цели. Это означает, что система находит собственную угрозу, решает, атаковать ее или нет, и направляет свой курс в случае атаки. Система использует несколько методологий искусственного интеллекта для идентификации и захвата целей, принятия решения о том, что делать, и немедленных действий. Одним из методов искусственного интеллекта, используемых системой оружия, является нейронная сеть изображения, которую он использует для подтверждения своей цели. Искусственная нейронная сеть - это тип подхода ИИ, который аналогичен биологическим нейронам в мозгу животных. Искусственные нейронные сети не имитируют напрямую биологические нейроны; скорее они вдохновлены этим. Они работают на основе прочности соединений в сети. В сеть загружаются миллионы выборок данных, и веса различных соединений между узлами корректируются для обучения сети на данных. Благодаря этому методу сеть узнает новое. Сетевые настройки постоянно уточняются, пока не будет получен окончательный правильный вывод, такой как правильное изображение (для сети распознавания изображений). Вот почему конкретная нейронная сеть лучше человека выполняет определенную функцию, скажем, различая яблоки и помидоры (даже если она находится далеко).

Хотя нейронная сеть лучше справляется с идентификацией и подтверждением целей, было выявлено несколько уязвимостей. Одна из основных проблем, которая была выявлена, - это его способность попадать под состязательные изображения. Это изображения, специально созданные для использования уязвимостей глубоких нейронных сетей для уверенной идентификации ложных изображений. По сути, это волнистые линии и формы или бессмысленная статика, которую нейронные сети идентифицируют как конкретные объекты, такие как морские звезды, с уровнем достоверности более 99%. Основная проблема заключается не в том, что сеть ошибается в некоторых изображениях, а в том, что сеть получает неверные изображения с такой уверенностью, это странно. Если мы доверяем этим системам принимать важные решения, это показывает, что можно обмануть эти системы для подтверждения цели как враждебной силы, когда они могут быть дружественной базой. Следует ли доверять этим системам эти решения? Достаточно ли они эффективны, чтобы выносить такие суждения, даже если их легко обмануть? Эти и другие вопросы являются причинами, по которым лидеры ИИ, такие как Илон Маск и Билл Гейтс, сдержанно относятся к большей автономии ИИ.

Хотя пулеметы могут стать неконтролируемым оружием, высока вероятность того, что смертоносное оружие с ИИ выйдет из строя. На это влияет не большинство научно-фантастических фильмов, таких как терминатор или Робокоп, а базовый анализ современных технологий искусственного интеллекта. Это должно заставить нас переосмыслить наше решение поставлять наше лучшее оружие ИИ.

Разработка полного искусственного интеллекта для смертоносного оружия может означать конец человечества. ИИ мог бы взлететь сам по себе и измениться со скоростью, с которой не может сравниться биологическая эволюция