В стратегии Илона Маска по защите нас от превращения в рабов искусственного интеллекта содержится довольно очевидное противоречие.

Он уверен, что способ не превратиться в домашних котов ИИ, как он любит выражаться, — это внедрить сетку искусственного интеллекта — нейронное кружево, — которое будет формироваться в мозгу, создавая жесткую связь между биологические нейроны и цифровые компьютеры. (Партнеры Маска говорят, что более подробная информация о проекте будет опубликована в начале следующей недели.) [Примечание: обновление отложено до 10 апреля.]

Простите меня за то, что я подумал, что это больше похоже на капитуляцию перед угрозой ИИ, чем на защиту от нее. Мне вспоминается известная фраза из старого комикса Pogo: Мы встретили врага, и он — это мы.

По сути, Маск предлагает сопротивляться навязыванию ИИ независимости человека, ускоряя навязывание ИИ человеческому интеллекту. Если угроза искусственного интеллекта связана с тем, что машины становятся настолько умными, что берут на себя управление людьми, что может помешать им захватить нейронные сети? И если оставить в стороне истерию о «домашних кошках», не является ли риск стать более киборгичным, чем мы уже являемся, угрозой ИИ, о которой нам действительно следует беспокоиться в любом случае?

То, что один из самых известных технологов нашего времени предложил разработать больше технологий для решения проблемы, созданной технологиями, неудивительно. Это ответ технолога практически на все. Самый вопиющий пример — геоинженерия. Нам говорят, что мы можем исправить катастрофу, которую технология нанесла естественному порядку на планете, путем дальнейшего применения нашего технологического гения для восстановления естественного порядка на планете.

Еще раз простите меня, но у меня есть сомнения. Применение каждой мощной технологии приводит к непредвиденным последствиям. Глобальное потепление и искусственный интеллект — два наиболее важных примера этого фундаментального правила. Я поверю Илону Маску (и Биллу Гейтсу, и Стивену Хокингсу) на слово, что искусственный интеллект представляет собой экзистенциальную угрозу для будущего человечества. Я поверю на слово научному сообществу, что глобальное потепление представляет не менее серьезную угрозу.

Тогда вопрос к технологам: вы когда-нибудь рассматривали возможность применения меньшей технологии?

Первоначально опубликовано вThe Question Concerning Technology, 5 апреля 2017 г..