Причина, по которой ИИ пугает величайшие умы мира и почему это неизбежно: машины захватывают власть
Самая простая концепция ИИ ужасает
Если он * только * достигает того же уровня интеллекта, что и мы, его способность работать на гораздо более высокой скорости означает, что через 6 месяцев он будет эффективно работать на нашем эквиваленте. 500000 лет.
Для сравнения - нам потребовалось около 200000 лет, чтобы достичь того, что мы сейчас как вид.
Позвольте этому погрузиться на мгновение
Для нас в течение 6 месяцев ИИ накопит полмиллиона лет знаний в дополнение ко всему, что мы уже знаем, а это означает, что мы не сможем конкурировать с ними в течение нескольких дней после того, как они достигнут того же уровня интеллекта, что и мы. .
У нас даже не будет времени среагировать, потому что машины превзойдут нас буквально в мгновение ока.
Точно так же, как мы не могли относиться к самым ранним людям, ИИ не сможет относиться к нам
Это в лучшем случае низводит нас до роли того, как мы сейчас обращаемся с домашними животными.
Или того хуже - Муравьи
Когда муравьи ускользают от нас, мы оставляем их в покое.
Когда они вторгаются в наши дома или препятствуют нашим намерениям, мы стираем их, не задумываясь. Это незначительность, которую можно искоренить.
Это вероятный исход для ИИ и для нас.
Вот почему ИИ - это игра с нулевой суммой.
Как бы отреагировали Россия или Китай, если бы они думали, что Штаты были на грани создания такого доминирования?
Как бы они отреагировали, если бы даже пошли слухи о том, что это близко?
Это не та технология, с которой можно соревноваться - если вы опередите на 6 месяцев, у вас будет на 500 000 лет знаний больше, чем у конкурентов.
Победитель получает все
Тогда, вероятно, все проиграет самому ИИ.
Это на несколько порядков превосходит манхэттенский проект как с точки зрения опасности, так и серьезности для будущего человечества.
Вот почему ужасаются величайшие умы мира
Это не просто наиболее вероятный исход - он неизбежен.
Если предположить какую-либо скорость прогресса, неизбежно, что мы достигнем этой точки в неопределенный момент в будущем.
Но это будет намного раньше, чем мы думаем
В единичных задачах машины уже побеждают нас с легкостью. Шахматы, Jeopardy и Go - все тому примеры. Машины могут поднимать гораздо больше, чем мы когда-либо, и рассчитывать вещи, на которые у нас уйдут годы.
Способность компьютера выполнять вычисления в миллионы раз быстрее, чем мы можем себе представить, является непреодолимым препятствием для нашей работы вместе с ними.
Вот почему обеспечение связи между человеком и машиной имеет решающее значение для выживания нашего вида. Без него мы хуже пещерных людей. Мы должны как можно скорее расширить нашу полосу пропускания.
Тем не менее, люди боятся того, что Crispr означает для развития другого класса людей. Конечно, гены можно отредактировать, чтобы создать более совершенную версию человека - более умную, красивую, менее подверженную серьезным заболеваниям, - но они все равно останутся людьми.
AI не будет
Я знаю, где мои страхи
Если ИИ накапливает эквивалент двух лет наших знаний каждую минуту, мы закончим. Потенциально мы уже есть - мы никогда не отступали от надвигающейся технологической инновации из-за ее опасности для выживания человечества - просто посмотрите на ядерные бомбы.
Даже неважно, доброжелательны ли они
В конце концов, они будут действовать так далеко за пределами нашего понимания, что их действия будут влиять на нас как побочный продукт их намерений.
Это так просто
И это если предположить, что они достигают только такого же разумного, как мы, и никогда не продвигаются дальше этого.
Но они будут
Все, что ему сейчас требуется, это способ объединить все эти отдельные элементы интеллекта в единый ИИ, который может использовать их все. По вертикали они уже превосходят нас во всех сферах. По горизонтали они близко не подходят. Это означает, что их общий интеллект подводит их по всей широте своих возможностей.
Как только они добьются этого, игра окончена
В мгновение ока одна машина буквально накапливала годы человеческих знаний.
Когда наши цели расходятся, ИИ контролирует нашу судьбу.
Это эволюционирует или вымирает
