Достаточно сказать, что у всех нас есть предпочтительные сценарии. Хитрость заключается в том, чтобы сделать эти сценарии как можно более надежными, чтобы привлечь внимание людей к вашему взгляду. Очевидно, вы пытаетесь продать точку зрения. Тем не менее поверхностный просмотр заявленных вами «мифов» на самом деле выглядит как мифы. Например:

  • «Это касается мифов об ИИ, которые циркулируют в СМИ, в Интернете и в наших головах. Вызывая опасения, которые, осмелюсь сказать, во многом беспочвенны».

В средствах массовой информации и в наших головах действительно МНОГО мифов об ИИ. Какие безосновательны и почему? Например, на прошлой неделе российский Путин сказал: «ИИ создает «колоссальные возможности и угрозы, [но]… тот, кто станет лидером в этой сфере, станет правителем мира». Это беспочвенный миф? Все опасения, высказанные многочисленными учеными, экспертами по ИИ, институтами ИИ, авторами ИИ, ошибочны в отношении высказанных ими опасений? Является ли тот факт, что Китай официально объявил о своем намерении доминировать над ИИ к 2020 году, несущественным событием?

  • «Из многих отраслей лишь немногие действительно смогут извлечь выгоду из возможностей, предоставляемых роботизацией».

Насколько я знаю, все, что связано с физическим трудом и распределением в сельском хозяйстве и производстве, большинство административных, канцелярских и рутинных интеллектуальных задач можно автоматизировать; который включает в себя как роботов, так и ИИ. Итак, как, вопреки всем опубликованным исследованиям, вы можете обосновать это утверждение?

  • «Я не знаю, откуда взялась идея о том, что цифровая экосфера должна быть свободна от ошибок и опасностей. Как люди, у нас есть экзистенциальная обязанность оставаться самостоятельными».

Проблема прямо противоположна вашей формулировке. Мы УВЕРЕНЫ, что в цифровой экосфере будут ошибки и опасности. Вопрос в последствиях, влияющих на реальную жизнь и судьбу. Последствия, которые неизвестны или непредвиденны и могут быть масштабными и глубокими; особенно со все более непрозрачными алгоритмическими выходами черного ящика. В то время как я полностью за и полностью выполняю экзистенциальный долг оставаться самостоятельным, простой факт заключается в том, что это становится все труднее по мере того, как машины и цивилизация становятся более сложными, а масштабы увеличиваются. Вы потерялись в космосе с этим мифом.

  • «Я считаю, что мы НЕ МОЖЕМ предсказать КОНКРЕТНЫЕ последствия того факта, что через несколько лет компьютеры будут думать быстрее нас».

Опять же, все, что у нас есть, это сценарии. Прогнозы, особенно «конкретные», — для дураков. Есть только вероятности. Основываясь на истории человечества, как по сравнению с другими видами, так и с людьми, способность думать быстрее является преимуществом. Что касается хеджирования, то «в течение нескольких лет» это, безусловно, слишком рано и поставит нас в невыгодное положение.

Наконец, при этом я давно следил и уважал Курцвейла (особенно закон ускоряющейся отдачи) и Маска. Что касается AI/AGI, то я склонен больше доверять опасениям Маска, потому что последствия ошибки — столкновение с черным лебедем — представляют собой слишком большой экзистенциальный риск.
(кстати, фильм Превосходство был чистой фантазией Курцвейла. Какой бы привлекательной ни была идея загрузки, она игнорирует сопротивление со стороны тех, кто верит в бога (например, аборты, стволовые клетки) и в природы (например, ГМО, вакцины). Плюс, как и в фильме, проблема диктатуры не решается, как и какофония, которая по умолчанию приводит к исходу, подобному боргу.)

Док Хьюстон