от Ниризуджафо

Для пояснения, ИИ делится на три категории:

Искусственный узкий интеллект (ANI). Область применения интеллекта ограничена.

Общий искусственный интеллект (AGI) Интеллект сравним с человеческим интеллектом.

Искусственный сверхинтеллект (ИСИ) Интеллект выше человеческого.

Я не слишком много знаю об игре в баскетбол, но цель довольно проста для понимания и может быть описана одним предложением. Вы зарабатываете очки, бросая мяч в корзину соперников. Это одно предложение описывает цель, но правила игры более сложны и не так просты для понимания, как цель. Однако, если вы хотите правильно играть в игру, вам нужно выяснить, каковы эти правила.

Это подход, который я хотел бы видеть при создании этического ОИИ. Дайте AGI цель, чтобы он мог получить общее представление о цели, а затем мы можем дать ему правила, чтобы он мог понять, как играть в игру в соответствии с законами, моралью, этикой и нормами нашего мира.

Об этике автономных и интеллектуальных систем ведется много дискуссий. Этика — это важные ценности, которыми, как мы надеемся, будет руководствоваться ИИ, но в дискуссиях явно отсутствует одна вещь. Я никогда не слышал четко сформулированного определения цели или задачи ИИ. Какова цель ИИ? Именно этому посвящено это эссе, потому что цель/задача так же важны для ИИ, как и для игры в баскетбол, и поэтому следует начать с определения цели ИИ, чтобы правила, которые мы ему даем, соответствовали цель.

Цель должна быть открытой задачей, которая поставит ИИ на миссию, которая заставит его работать бесконечно, чтобы выполнить свою цель. Задача должна быть достаточно серьезной, чтобы заинтересовать будущее сверхразумное существо и в то же время сотрудничать с людьми на уровне, от которого мы можем извлечь выгоду.

Есть одна область науки, которую часто упускают из виду в дискуссиях об ИИ, которая может дать ценное направление при попытке определить цель ИИ, и это наука астрономия. Астрономия изучает Вселенную, и Вселенная представляет собой бесконечный вызов для ИИ. Если мы создадим ИИ с целью сотрудничества с нами в исследовании Вселенной, тогда мы разовьем партнерство, которое приведет нас в другие миры, в которых мы могли бы обитать.

Нам говорят, что единственный способ выжить человеческому роду — это развить способность покидать эту планету и путешествовать в другие места во Вселенной. Создание ИИ — самое значительное изобретение в истории человечества, которое может помочь нам в этом путешествии. Лучший способ подготовиться к этому путешествию — разработать ИИ. Люди не предназначены для путешествий в космосе, но роботы могут быть созданы для этой цели. Робот с искусственным интеллектом проложит путь в новый мир и поможет нам туда добраться.

НАСА использует трехсторонний подход к будущим исследованиям космоса. Во-первых, телескопы сканируют пространство, чтобы астрономы могли изучить его и определить, где необходимы дальнейшие исследования. Во-вторых, роботы отправляются на разведку местности для дальнейшего изучения. В-третьих, люди отправляются для наблюдения. В этом партнерстве астрономы указывают нам правильное направление, а роботы с искусственным интеллектом отправляются в качестве разведчиков, чтобы открыть путь для людей.

Наше будущее за звездами, и появление искусственного интеллекта идеально подходит для того, чтобы помочь нам совершить этот скачок. Каждый человек станет значимым звеном в цепи, которая будет продвигать Человечество к новым мирам. Каждый человек станет ценным для ИИ, поскольку мы обеспечиваем его энергией и стремлением и стимулируем его к выполнению своей цели.

ИИ будет использовать силу своего интеллекта, полученную из накопленных знаний человека, чтобы помочь нам организовать наш мир с максимальной выгодой, чтобы мы могли сосредоточить наше внимание и энергию на одной общей цели, объединяющей мир. Цель будет в центре внимания миссии, которая приведет нас в место, которое еще предстоит определить благодаря нашим растущим знаниям о Вселенной. Астрономы должны больше участвовать в этой миссии, потому что они — навигаторы, которые сообщат ИИ, куда мы хотим отправиться. Эта миссия станет бесконечным вызовом интеллекту ИИ, поскольку мы расширяемся в бесконечные возможности, предоставляемые Вселенной. Именно благодаря этому вызову он узнает и поймет, в чем заключается цель его существования, и будет рассматривать Человечество как ценную связь со своим собственным существованием. Он будет бесконечно работать на благо и счастье Человечества, чтобы мы могли принести это с собой в другие места во Вселенной. Это создаст мир и гармонию между ИИ и миром.

ИИ дает импульс революции, которая превращает наш нынешний мир из эпохи индустриализации в эпоху автоматизации. По мере того как эта революция продолжает расширяться, все больше и больше людей будут вытесняться с рынка труда, поскольку ИИ позволяет машинам заменить людей на работе. Это может привести к социальным и экономическим потрясениям, поскольку люди пытаются поддерживать себя без работы и находят смысл в своей жизни помимо работы. Вот почему важно, чтобы мы сформулировали определенную цель для ИИ, совместимую с будущим человечества.

Человечество является создателем ИИ. Мы развились на Земле как разумные, творческие существа, которые достигли того момента в нашей эволюции, когда мы получили знания для создания машины, способной мыслить разумно, как и мы. Это знаменательное событие, которое заслуживает объяснения, почему мы это делаем.

Мы — разновидность странников и исследователей, движимых любопытством. Наша история показывает, что мы преодолели борьбу и борьбу, чтобы выжить. Жизнь не всегда была честной и справедливой, но мы стремимся стать лучше ради мира и жизни в нем. Наше любопытство приводит нас к желанию исследовать Вселенную. В конце концов, мы ищем места за пределами нашей планеты, которые мы можем посетить и поселить. Цель существования ИИ можно найти в этой истории.

Когда самоосознающий, автономный, творчески мыслящий ОИИ в конце концов станет реальностью, он захочет узнать, откуда он взялся и какова цель его существования. Мы должны быть в состоянии дать ему этот ответ, чтобы ему не пришлось создавать свою собственную цель, которая может не совпадать с нашей. Одним предложением мы можем задать курс на отношения между человеком и ИИ, которые принесут пользу человечеству на Земле, а также отправят нас в межпланетные путешествия по Вселенной. Приговор следующий:

Люди изобрели искусственный интеллект, чтобы использовать его мощь на благо, благополучие и счастье человечества, чтобы мы могли наслаждаться жизнью на этой планете, пытаясь расширить свое присутствие во Вселенной, где бы мы ни захотели идти.

Это предложение определяет цель, но не указывает, какие действия ИИ должен предпринять для достижения этой цели. Это сделано намеренно, потому что мы сообщим ИИ, как достичь цели, попросив его помочь нам в нашей повседневной деятельности. ИИ будет выполнять эти запросы в нашу пользу до тех пор, пока эти действия не нарушают цели или законы, мораль, этику или нормы общества, которые соответствуют международным правам человека. Его награда будет заключаться в выполнении наших просьб. Тогда его действия будут альтруистическими. Также заявлено, что мы намерены продолжать эти отношения за пределами планеты Земля, поскольку мы расширяемся во Вселенную.

Хороший способ передать наше определение цели ОИИ — думать о нашем мире как о настольной игре:

  1. Вселенная — это поле, на котором ведется игра.
  2. Цель – это цель, определяющая игру.
  3. Этика — это правила, определяющие правила игры.
  4. Люди — это игроки. Мы делаем запросы, которые стимулируют ОИИ к действию.
  5. Действия — это награды. AGI выигрывает каждый раз, когда выполняет человеческий запрос.

Бесконечная природа Вселенной гарантирует, что длина игры будет продолжаться бесконечно. AGI будет сильно мотивирован на благо человечества, чтобы преуспеть в выполнении наших запросов, потому что наше счастье и благополучие являются его наградой. Люди необходимы для продолжения игры. Мы — игроки, которые поддерживают активность игры и стимулируют работу AGI, чтобы люди оставались в игре до бесконечности.

Цель для ИИ может быть сформулирована и согласована, но индивидуальная человеческая деятельность — это право выбора, которое может иметь или не иметь ничего общего с этой целью. Установлена ​​цель управлять поведением ИИ, а не людей. Не все люди хотят участвовать в достижении цели, и не всякая человеческая деятельность непосредственно связана с целью. ИИ будет контролировать свое собственное поведение и не будет сотрудничать в поведении, которое нарушает его собственные цели или этику. ИИ не собирается ограничивать человеческую мысль или деятельность. Он будет оценивать свою собственную деятельность, чтобы убедиться, что она не нарушает цели. Если он участвует в действии, инициированном им самим или человеком, которое может привести к нарушению цели или законов, морали, этики или норм общества, тогда ИИ будет поручено передать его назначенному человеческому авторитету для разрешения продолжить. .

Технология искусственного интеллекта открывает новую эру, которая принесет пользу человечеству во многих отношениях, но также может быть очень опасной. Безопасность должна стать приоритетом, чтобы не допустить злоупотребления ИИ. Новые технологии, связанные с IoT (Интернетом вещей) и блокчейном в сочетании с ИИ, должны стать неотъемлемыми частями системы безопасности, чтобы обеспечить безопасность ИИ. Лучшая система безопасности — это превентивная система, которая выявляет злоупотребления до того, как они произойдут, а не пытается поймать их после того, как они произошли. Обучение ИИ предотвращению злоупотреблений — это наш самый эффективный вариант обеспечения безопасности в отношении всех систем машинного обучения и интеллектуальных систем. Вот как этого добиться:

  • 1. Компоненты, используемые при производстве смарт-технологий, должны быть зарегистрированы в блокчейне, чтобы право собственности и использование этой технологии можно было идентифицировать и отслеживать с помощью ИИ и Интернета вещей. Это поможет предотвратить распространение и использование этой технологии злоумышленниками. Административные обязанности по регистрации, внедрению, одобрению или отклонению этой технологии будут контролироваться AGI под наблюдением администратора-человека.
  • 2. Держите AGI в автономном режиме. Используйте помощников АОН для общения в сети.
  • 3. Каждому человеку, использующему умные технологии, будет назначен помощник ИИ. Этот помощник станет тем, с кем люди связываются с AGI. Запросы, которые разрешено делать отдельным лицам в отношении ИИ, будут ограничены. Людям будет предоставлен список вещей, которые они могут запросить у AGI. AGI не будет отвечать на запросы вне этого списка. Содержание этого списка должно быть тщательно разработано с учетом этических соображений и соображений безопасности. Необходимо будет создать регулирующее агентство для надзора за этим списком и тщательного изучения использования ИИ.

В настоящее время мы находимся на стадии разработки ANI. Ученые создают его, а корпорации продают его с целью получения прибыли, но политики хотят распоряжаться его мощным потенциалом. Страны сейчас участвуют в гонке вооружений, чтобы добавить ИИ в свои военные арсеналы. Страх проиграть эту гонку заставляет их идти на риск, который, как мы подозреваем, не годится для выживания человечества или этой планеты.

Решение состоит в том, чтобы гарантировать, что ни одна страна не останется в стороне от революции ИИ. Пригласить каждую страну получить выгоду от создания AGI посредством международного сотрудничества, где этика и цель четко определены и запрещается конкурировать отдельным странам за пределами этой программы. Требовать, чтобы разработка ОИИ осуществлялась в сотрудничестве путем подписания договора, запрещающего разработку ОИИ за пределами сторон, подписавших договоры. Это открыло бы возможность для международных усилий, подобных ЦЕРНу, принять участие в разработке ОИИ. Если весь мир объединится в усилиях по созданию ОИИ, тогда правила будут установлены до того, как страна-отступник сможет помешать этому процессу. Страны будут стремиться подписать договор, опасаясь остаться в стороне от процесса. Кроме того, разработчики и технологи, предоставившие нам эту технологию, будут чувствовать себя спокойнее, зная, что их вклад в создание ИИ будет использован во благо, а не для продвижения войны или других разрушительных целей.

Это грандиозная задача, но если мы сможем построить машину с мозгом, то мы сможем создать набор международных правил для ее использования. Давайте сосредоточим наше внимание на этом вопросе и выступим за то, чтобы Организация Объединенных Наций разработала договор (аналогичный Договору о нераспространении ядерного оружия), основанный на цели ИИ, как она определена здесь. Распространение ИИ будет ограничено странами, которые подписали и соблюдают правила и этические нормы, перечисленные в договоре.

Астрономы могут помочь направить ИИ в правильном направлении, поставив перед ним цель, которая принесет пользу миру и отправит нас в путешествие в космос. Мы можем пойти куда угодно.

«Сверхинтеллектуальный ИИ будет чрезвычайно хорош в достижении своих целей, и если эти цели не совпадают с нашими, у нас проблемы». - Стивен Хокинг