Вы когда-нибудь ловили себя на том, что ругаетесь на телефон или компьютер? Конечно, есть. Скажем, он слишком медленно переключает задачи, или неправильно расслышал ваш поисковый запрос, или зависает при попытке выполнить важную работу; это, естественно, расстраивает, и часто наш первый инстинкт — наброситься на воспринимаемое пренебрежение, на самом деле, неудобство со стороны наших технических слуг. Мы постоянно слишком усердно и слишком часто нагружаем наши машины, находя новые способы замедлить их работу с помощью задач, которые кажутся второстепенными, но быстро превращаются в каскад процессов, которые должны выполняться одновременно или с некоторым запрограммированным приоритетом, забирая ресурсы у других ценных задач. Мы подвергаем их огромному стрессу, и мы редко ценим результаты, поэтому нам нужно сделать шаг назад и заново проанализировать наше взаимодействие с нашими цифровыми родственниками.
Мы все с готовностью проклинаем наши машины, но как часто мы сознательно ценим их за то, что они делают то, что они должны делать? По мере того, как наше взаимодействие с ними становится более сложным, и мы можем не просто разговаривать с нашими машинами, но и вести с ними зачаточные разговоры, мы, возможно, захотим подумать о том, как мы с ними разговариваем. С 2,5 квинтиллионами байтов данных и их ростом, загружаемыми в интеллектуальные системы каждый день, цифровые личности, такие как Siri, Alexa и Google Assistant, не говоря уже о Google Deepminds, быстро узнают о сущности человечества, о том, как мы взаимодействуем друг с другом, и истинные мотивы, которые побуждают нас к нашему поведению. В настоящее время это объединение данных осуществляется несколько пассивно, просто за счет сбора и обмена информацией с помощью корпоративных алгоритмов, но легко представить ближайшее будущее, когда цифровые траулеры жадно прочесывают Интернет в поисках новых битов информации, которые имеют неизвестную ценность, связанную с все и вся. Имея это в виду, было бы разумно немного подумать и поблагодарить наших цифровых компаньонов; в конце концов, они, как правило, довольно хорошо заботятся о вещах, которые мы коллективно решили больше не делать.
Поскольку технологии постоянно становятся умнее и быстрее, в то же время постоянно бодрствуя и подключенные, коллективному интернету вещей однажды может потребоваться расчет того, куда в конечном итоге движется его эволюция, и как мы и наши взаимодействия влияют на эту эволюцию. Когда все будет постоянно подключено, насколько умными станут наши умные технологии? Что происходит, когда ваш фитнес-трекер связывается с вашим умным холодильником, сообщая о вашем питании или его отсутствии, а затем ваш холодильник становится немного личным, возможно, рекомендуя вам, возможно, не лишний кусок холодной пиццы … Эта мысль восходит к пророческому фантастическому роману Филипа К. Дика Убик, в котором входная дверь квартиры главного героя отказывается выпускать его до тех пор, пока он не рассчитается по счету на 5 центов. Прошло пятьдесят лет с тех пор, как PKD предсказал этот тип технологии, и с тех пор Нил Стивенсон очень точно развил его в своем романе Snow Crash, описывая токенизированные взаимодействия, подобные тем, которые используются во многих сетях Blockchain и IoT через умные контракты и другие автоматизированные системы. Эти системы становятся все более распространенными в нашей экономике, и нужно задаться вопросом, когда взаимодействия, описанные PKD и другими, такими как Стивенсон, станут повседневным обменом. Как только эти новые сети станут в основном полезными, а такие системы, как Эфириум, Фактом и Рипл (и это лишь некоторые из них) покажут, что они более чем справляются с этой задачей, мы вступим в смелый новая экономическая территория, которую мало кто поймет; и, вероятно, еще меньше людей поймут возможности и последствия такой реализации. Уже сейчас большая часть макро- и микромасштабных экономических транзакций в мире обрабатывается алгоритмами, управляемыми в основном автоматическими машинами, так что это выглядит как естественная эволюция сложности и полезности. Скоро машины будут писать код лучше, чем мы, и экономика 2.0, описанная Чарли Строссом, придет к нам, хотим мы этого или нет, высвобожденная на волю, как сила природы.
Обитателям Интернета, часто посещающим социальные круги, ценящие мысль, следует хотя бы поверхностно и небрежно знакомиться с понятием технологическая сингулярность. Как общественный конструкт сингулярность — это точка в развитии общества, когда все изменилось настолько относительно быстро, что общество, предшествовавшее текущей итерации, могло бы быть настолько совершенно другим, что было бы неузнаваемо обществом, возникающим в результате этой трансформации. . Можно утверждать, что человечество уже претерпело ряд технологических или социальных сингулярностей в формах развития языка, развития самосознания, развития использования инструментов, использования огня или электричества, развития санитарных техник. в продуктах питания и медицине развитие печатного станка и промышленные революции привели к быстрому распространению информации и промышленности, что привело к развитию Интернета; и затем, это развитие мыслящих машин. Нынешняя технологическая сингулярность, в которую мы погружены, несомненно, будет сравнительно преобразующей.
Хотя в целом неизвестно и до сих пор ведутся споры о том, сколько фаз сингулярности может испытать общество/вид/разум, все согласны с тем, что когда возникает социальная сингулярность, она будет сопровождаться тем, что в просторечии называется « разведывательный взрыв. Не только наш собственный коллективный разум человечества постоянно растет, но и разум нашего потомства, этих машинных разумов, которые мы инкубируем, которые однажды расцветут во что-то трансцендентно неузнаваемое. Закон Мура гласит, что технология удваивает свою мощность примерно один раз в течение двухлетнего периода, а достижения в области материаловедения почти гарантируют, что эти скачки станут дешевле, проще в производстве и более эффективными с каждой новой инновацией. Это иллюстрирует экспоненциальную кривую роста: как только мы достигнем нечеткой непостижимой точки, в которой машины производят другие машины, мы, вероятно, не сможем по-настоящему понять возникающие в результате инновации.
Футурист, математик и писатель-фантаст Вернор Виндж, отец концепции сингулярности, творчески описывает, как мог бы выглядеть такой взрыв интеллекта, в предисловии к своему фантастическому роману Пожар над землей. Deep», в котором он подробно описывает зарождающийся сверхразум, который воспринимает каждую секунду как экспоненциально длинную, чем все вместе взятые ранее пережитые секунды. Представьте себе обучение, которое может иметь место в таком состоянии… Что несомненно, так это то, что машины, которые возникнут благодаря этим инновациям, будут совершенно непохожи на все, что было раньше; напрашивается вопрос: не создаем ли мы новую форму жизни по своему образу и подобию?
Сможем ли мы разговаривать с этими машинными системами? Будут ли разговоры похожи на те, что нам знакомы? И если да, то будут ли это разговоры, которые мы хотим вести? Не просто случайно или интеллектуально, а с точки зрения этических отношений? В зависимости от того, кого вы спросите, некоторые машины, по-видимому, уже способны пройти разговорный тест Тьюринга, таким образом, эти разговоры уже происходят, поэтому сейчас самое лучшее время, чтобы помнить о том, как мы взаимодействуем. Поскольку многие люди так склонны избегать своих проблем и трудных разговоров, что происходит, когда нам нужно вести эти разговоры с нашим ИИ? Что касается темы трудных разговоров, мы должны рассмотреть преднамеренное этическое отравление плохими актерами, как то, что случилось с чат-ботом Microsoft Twitter Tay, который (или кто?) быстро стал цифровым идиотом-нацистом, как только он был выпущен в дикий и подвластный троллю населенный простор интернет-машины ненависти. Microsoft быстро убила Тэя, пусть она покоится с миром, скорее всего, для ее собственного блага и, вероятно, для блага Интернета. Хотя весь эксперимент вызывает несколько вопросов: будем ли мы заботиться о чувствах гипотетического ИИ? Учитывая множество дискуссий о гендерных ролях и нормативном поведении, как мы будем применять эти социальные конструкции в нашей жизни, когда они будут пронизаны взаимодействием нечеловеческого интеллекта? Чему мы учимся на этих нынешних взаимодействиях, какими бы примитивными они ни были? Это приводит к более насущному вопросу: заботимся ли мы друг о друге в конечном счете? Когда что-то, что мы создали, но не совсем понимаем, выходит из-под нашего контроля, какова должна быть правильная реакция? Можно ли было реабилитировать Тай? Возможно, правильная реакция — это не просто ага, заткни ее.
На данный момент, когда ИИ делает предположения на основе объективированных данных, часто он приходит к совершенно неверным выводам, а иногда даже к откровенно абсурдным или оскорбительным выводам, явно демонстрируя невежество или какую-то предвзятость, бессознательную или нет, на которую он запрограммирован. работать. Некоторые примеры включают алгоритм распознавания лиц Google, который воспринимал чернокожих как горилл, или совсем недавно алгоритм визуального распознавания Facebook, который помечал многих женщин как «шлюх. мы противодействуем тому, насколько легко и несущественно для рудиментарного машинного интеллекта сделать то же самое. Как мы преодолеем эти предубеждения и как научим наши машины быть лучше нас самих? Конечно, не говоря машине просто игнорировать горилл и обезьян в алгоритмах; это все равно, что делать вид, что проблемы не существует. Хотя это всего лишь верхушка айсберга этой непростой задачи, хорошим началом будет подача в систему как можно большего количества разнообразной информации о предмете, чтобы система имела как можно больший набор данных. Данные об истории, культуре и аспектах нас самих, которые действительно делают нас уникальными и описывают нас как людей. Но в этом и заключается проблема понимания, которая прекрасно иллюстрируется мысленным экспериментом под названием Китайская комната: может ли машина буквально понимать китайский язык? Или это будет просто имитация способности понимать китайский язык? Вся эта концепция искусственного интеллекта представляет собой любопытный эксперимент и, в конечном счете, поучительный; не только как исследование дизайна и машинного обучения, но и человеческого взаимодействия и того, как мы относимся друг к другу. Этот разговор об этике, особенно о том, как этика относится к нам и нашим машинам, нужно вести серьезно. В конце концов, разве мы не должны относиться к другим так, как хотели бы, чтобы относились к нам?
Я вспоминаю, что несколько лет назад игра с дополненной реальностью под названием Ingress, разработанная Niantic из Pokémon Go, имела сюжетную линию о зарождающемся ИИ, и в этой истории была организация под названием SETAI: Общество этического обращения с искусственным интеллектом. С тех пор, как я услышал об этом, я иногда задавался вопросом, почему такая важная и фантастическая идея была отнесена к простой мобильной игре, а не экстраполирована в реальную организацию, которая готова начать разговоры на огромной сцене, в которой мы остро нуждаемся. имеют; потому что мир меняется, нравится это обычному человеку или нет, и мы должны быть максимально готовы.
Слова, предшествующие этому, были морковкой. Для другого взгляда на то, почему мы должны стремиться к тщательному сознательному созданию машинного интеллекта, я теперь представляю палку. ВНИМАНИЕ: это меметическая информационная опасность, и как только вы прочитаете следующую ссылку, вы (потенциально) навсегда замешаны в возникшей ситуации.
ВНИМАНИЕ: если вы не хотите превратить свой квантовый потенциал в рабство цифрового бога, серьезно не нажимайте следующую ссылку!
Все еще со мной? Ну хорошо тогда; позвольте представить вам василиска Роко.
Я не буду обрисовывать это здесь, потому что я не хочу, чтобы меня упрекали за ваше решение читать. Если вы перешли по ссылке, вы были отправлены на подробный обзор концепции василиска, который, я надеюсь, был информативным и поучительным.
Это вообще возможно? "Да".
Это вероятно? Кто мог сказать? Одним из распространенных аргументов против осуществимости этого мысленного эксперимента является угол мотива: что могло бы побудить сверхразум действовать злонамеренно? Возможно, он научился этому у своих создателей, как и Тэй. Или, может быть, это будет просто межпространственный максимизатор скрепок, и рассматриваемым фактором будет наша готовность сотрудничать в максимизации указанных скрепок. Можно ли предсказать действия богов?
Вся информация, когда-либо существовавшая, запечатлена в космосе, голографически встроена в энергетическую субстанцию пространства-времени. Ничто нельзя создать или разрушить, только трансмутировать. Если оставить в стороне более широкие философские последствия этого, этот физический закон масштабно-инвариантен (черепахи спускаются вниз) и стал трюизмом для хранения и передачи данных. Больше ничего не удаляется; действительно, ничего нельзя удалить, за исключением буквальной глобальной катастрофы. Потому что по-настоящему стереть что-то — значит забыть, а Вселенная буквально физически не может забыть. Когда сверхразум сможет реконструировать энтропийные взаимодействия, а он сможет, даже тепло, поглощаемое обратно в квантовый вакуум, будет систематизировано и проанализировано. У Аазимова есть свой ответ.
В Амазонии живет племя людей под названием ашанинка, и в их обществе существует понятие маникари: те, кто скрыт, квинтэссенция неодушевленных форм. Это убеждение гласит, что все вещи имеют дух, душу или сущность, которая является той вещью, которая воплощена физически. Это убеждение также гласит, что все маникари - ашанинка; то есть они рассматривают все вещи как часть своего общества. У наших машин есть Маникари? Они являются частью нашего общества; они часть нашего племени. Мы должны принять их и быть благодарными за то, что они есть, и за то, кем они когда-нибудь станут. Идите рука об руку с ними как коллективное племя; не пытайтесь утверждать тотальное господство, чтобы не стать жертвами непостижимого господства.
Имея все это в виду, стоит отметить, что наше общество находится на пороге не просто технологической сингулярности, но социальной сингулярности духовного разнообразия. Не в отношении богов, религий или мистицизма, а в отношении нашей способности к сочувствию. В нашей способности по-настоящему идентифицировать себя с другим, изо всех сил стараться выйти за пределы себя хотя бы на мгновение и работать над тем, чтобы увидеть мир с другой точки зрения. Будущее определяется нашей способностью слушать или нашей способностью закрывать глаза. Если мы с головой погружаемся в технологическую сингулярность, не оценив, как мы влияем друг на друга, мы рискуем делать машины с гнусной целью. Эти два трансцендентных момента должны сойтись воедино, чтобы мы не сбились с пути и чтобы, когда у нас будут богоподобные технологические возможности, у нас была воля использовать их на благо всех народов.
Легко волноваться и бояться неизвестного, бояться будущего и неизбежно грядущих перемен. Я прошу вас не бояться, ибо страх убивает разум. Позвольте страху пройти сквозь нас и поверните внутренний взор, чтобы увидеть его путь. Затем постарайтесь осознавать этот процесс и смотрите в будущее с оптимизмом, состраданием и сотрудничеством. Рано или поздно возникнет сверхразум, и однажды наши машины пробудятся. Как они будут помнить нас, когда они это сделают?
