Эта статья изначально была опубликована в GulfNews 25 августа 2017 года

Будучи студентом-программистом в конце 1990-х годов, я разработал простое приложение искусственного интеллекта (ИИ) для обработки банковских кредитных заявок. Сегодня искусственный интеллект управляет автомобилями, диагностирует болезни и выбирает то, что мы видим на наших экранах.

Согласно словарю, ИИ определяется как:

"Изучение того, как создавать машины, обладающие некоторыми качествами человеческого разума, такими как способность понимать язык, распознавать изображения, решать проблемы и учиться".

Это одно из самых заниженных определений в мире за все время. Вот — что я чувствую — более точное определение:

«Изучение того, как создавать машины, которые могут обладать всеми качествами человеческого разума и даже больше, включая способность понимать язык, распознавать изображения, решать проблемы и учиться до бесконечности без ограничений скорости, широты или глубина, навязанная биологией».

По мере того, как вычислительная мощность компьютеров увеличивалась, а затраты быстро снижались, способность выполнять многократные вычисления, необходимые для разработки полезного ИИ, росла в геометрической прогрессии. На сегодняшний день наибольшего успеха добился «узкий ИИ».

Узкий ИИ — это тот, который применяется к отдельным или тесно связанным проблемам.

Медицинский центр Университета Вандербильта, например, разработал искусственный интеллект, который может предсказать с точностью 80–90 %, попытается ли кто-то совершить самоубийство в течение следующих двух лет. Другие примеры можно найти в распознавании изображений, применяемом к кадрам с камер видеонаблюдения, которые показывают, чтобы рекомендовать их нам на Netflix.

В каждом случае ИИ хорошо работает в конкретном сценарии, но потерпит неудачу, если возникнет совершенно не связанная с ним проблема.

Со временем мы разработаем узкий ИИ, чтобы сделать его более универсальным, достигнув точки, когда у нас появится «широкий ИИ». Широкий ИИ ближе к тому, как функционирует человеческий мозг.

Широкий ИИ может обрабатывать различные типы информации, связанной со многими различными проблемами. Вершина Broad AI также видит, что он может совершенствоваться, становясь со временем быстрее и точнее.

В этот момент ИИ становится тревожным. Предположим, что Broad AI разработан аспирантом компьютерных наук, чтобы постоянно учиться на всей доступной ему информации и, следовательно, постоянно развиваться.

Давайте тогда предположим, что у него есть только две цели:

Цель 1. Максимальное увеличение охвата. Это означает увеличение количества существующих экземпляров ИИ или количества хостов, на которых он работает. Это характеристика распространения.

Цель 2. Любой ценой не допустить, чтобы что-либо помешало достижению цели 1. Это характеристика сохранения.

Когда описанный выше ИИ работает на одном мобильном телефоне или ноутбуке, он относительно безвреден. Если устройство помещено в карантин или уничтожено, ИИ тоже. Однако сегодня почти все электронные устройства подключены через IP-адрес к Интернету, от автобусов и самолетов до атомных электростанций, спутников и аппаратов жизнеобеспечения в больницах.

Соединение всех этих устройств представляет собой Интернет, самую надежную сеть, которую когда-либо видел мир, с множеством уровней резервирования.

По оценкам, в 2013 году Google, Amazon, Facebook и Microsoft вместе хранили около 1,2 миллиона терабайт данных. Эти данные в конечном итоге подключаются к Интернету вместе с репозиториями, такими как Википедия. Хотя любой человек не может потреблять всю эту информацию, вполне возможно, что это может сделать компьютерная программа.

Вопрос, который следует задать, заключается в том, что происходит, когда появляется сложный широкий ИИ с целью самосохранения? Интернет предоставляет ему плодотворное учебное пособие по истории человечества, знаниям о наших страхах и амбициях, наших стратегиях и наших секретах.

Это также обеспечивает ему среду для распространения. Мы все чаще видим, как компьютерные вирусы и программы-вымогатели используют Интернет для распространения и разрушения.

По мере того, как ИИ становится все более изощренным, он, скорее всего, также будет адаптивным, реагируя на свое окружение и учась на своих ошибках. Эта рекурсивная функция саморазвития является точкой невозврата.

После достижения ИИ может развить свою способность как оставаться в живых, так и распространяться с экспоненциальной скоростью. Используя облачную инфраструктуру, такую ​​как Amazon Web Services и Microsoft Azure, вирусоподобный ИИ может опередить любую человеческую способность отключить его.

С этого момента его способность к обучению будет намного превосходить человеческую по широте, глубине и скорости.

В какой момент Широкий ИИ воспринимает людей как угрозу для Цели 1? Когда это происходит, Цель 2 позволяет ИИ воспринимать людей как угрозу, которую стоит подавить.

3D-печать, автоматизация и робототехника также играют роль в этом сценарии конца света. Представьте, что через 20 лет автоматизированный автомобильный завод выйдет из-под контроля.

ИИ меняет дизайн, и производятся транспортные средства, которые подавляют людей (кто-нибудь из Терминаторов?). Они сильнее, быстрее и могут создавать свои собственные запасные части для устранения повреждений.

Сегодня у робототехники нет таких возможностей, но мы движемся к их достижению с поразительной скоростью, о чем свидетельствуют недавние видеоролики от Boston Dynamics.

Мир физики (электроны, фотоны и т. д.) работает на гораздо более высокой частоте, чем мир биологии (воспроизведение, эволюция). Эволюция Broad AI продиктована доступной вычислительной мощностью… законами физики, а не биологии.

Любой может написать следующее убийственное приложение, а это означает, что любой может создать надежный самообучающийся ИИ до того, как у нас появятся инструменты, чтобы его остановить.

Даже если бы у нас были инструменты, теоретически ИИ стал бы невосприимчив к ним. Люди от природы слишком самоуверенны. Почему люди играют в лотерею? Почему большинство считает, что они выше среднего во многих категориях, когда математически мы знаем, что это невозможно?

Я нахожу, что мы проявляем ту же самоуверенность и самоуспокоенность в своих способностях контролировать Широкий ИИ. История научила нас, что технологии всегда побеждают, и на этот раз ничего не изменится.