Эта статья изначально была опубликована в GulfNews 25 августа 2017 года
Будучи студентом-программистом в конце 1990-х годов, я разработал простое приложение искусственного интеллекта (ИИ) для обработки банковских кредитных заявок. Сегодня искусственный интеллект управляет автомобилями, диагностирует болезни и выбирает то, что мы видим на наших экранах.
Согласно словарю, ИИ определяется как:
"Изучение того, как создавать машины, обладающие некоторыми качествами человеческого разума, такими как способность понимать язык, распознавать изображения, решать проблемы и учиться".
Это одно из самых заниженных определений в мире за все время. Вот — что я чувствую — более точное определение:
«Изучение того, как создавать машины, которые могут обладать всеми качествами человеческого разума и даже больше, включая способность понимать язык, распознавать изображения, решать проблемы и учиться до бесконечности без ограничений скорости, широты или глубина, навязанная биологией».
По мере того, как вычислительная мощность компьютеров увеличивалась, а затраты быстро снижались, способность выполнять многократные вычисления, необходимые для разработки полезного ИИ, росла в геометрической прогрессии. На сегодняшний день наибольшего успеха добился «узкий ИИ».
Узкий ИИ — это тот, который применяется к отдельным или тесно связанным проблемам.
Медицинский центр Университета Вандербильта, например, разработал искусственный интеллект, который может предсказать с точностью 80–90 %, попытается ли кто-то совершить самоубийство в течение следующих двух лет. Другие примеры можно найти в распознавании изображений, применяемом к кадрам с камер видеонаблюдения, которые показывают, чтобы рекомендовать их нам на Netflix.
В каждом случае ИИ хорошо работает в конкретном сценарии, но потерпит неудачу, если возникнет совершенно не связанная с ним проблема.
Со временем мы разработаем узкий ИИ, чтобы сделать его более универсальным, достигнув точки, когда у нас появится «широкий ИИ». Широкий ИИ ближе к тому, как функционирует человеческий мозг.
Широкий ИИ может обрабатывать различные типы информации, связанной со многими различными проблемами. Вершина Broad AI также видит, что он может совершенствоваться, становясь со временем быстрее и точнее.
В этот момент ИИ становится тревожным. Предположим, что Broad AI разработан аспирантом компьютерных наук, чтобы постоянно учиться на всей доступной ему информации и, следовательно, постоянно развиваться.
Давайте тогда предположим, что у него есть только две цели:
Цель 1. Максимальное увеличение охвата. Это означает увеличение количества существующих экземпляров ИИ или количества хостов, на которых он работает. Это характеристика распространения.
Цель 2. Любой ценой не допустить, чтобы что-либо помешало достижению цели 1. Это характеристика сохранения.
Когда описанный выше ИИ работает на одном мобильном телефоне или ноутбуке, он относительно безвреден. Если устройство помещено в карантин или уничтожено, ИИ тоже. Однако сегодня почти все электронные устройства подключены через IP-адрес к Интернету, от автобусов и самолетов до атомных электростанций, спутников и аппаратов жизнеобеспечения в больницах.
Соединение всех этих устройств представляет собой Интернет, самую надежную сеть, которую когда-либо видел мир, с множеством уровней резервирования.
По оценкам, в 2013 году Google, Amazon, Facebook и Microsoft вместе хранили около 1,2 миллиона терабайт данных. Эти данные в конечном итоге подключаются к Интернету вместе с репозиториями, такими как Википедия. Хотя любой человек не может потреблять всю эту информацию, вполне возможно, что это может сделать компьютерная программа.
Вопрос, который следует задать, заключается в том, что происходит, когда появляется сложный широкий ИИ с целью самосохранения? Интернет предоставляет ему плодотворное учебное пособие по истории человечества, знаниям о наших страхах и амбициях, наших стратегиях и наших секретах.
Это также обеспечивает ему среду для распространения. Мы все чаще видим, как компьютерные вирусы и программы-вымогатели используют Интернет для распространения и разрушения.
По мере того, как ИИ становится все более изощренным, он, скорее всего, также будет адаптивным, реагируя на свое окружение и учась на своих ошибках. Эта рекурсивная функция саморазвития является точкой невозврата.
После достижения ИИ может развить свою способность как оставаться в живых, так и распространяться с экспоненциальной скоростью. Используя облачную инфраструктуру, такую как Amazon Web Services и Microsoft Azure, вирусоподобный ИИ может опередить любую человеческую способность отключить его.
С этого момента его способность к обучению будет намного превосходить человеческую по широте, глубине и скорости.
В какой момент Широкий ИИ воспринимает людей как угрозу для Цели 1? Когда это происходит, Цель 2 позволяет ИИ воспринимать людей как угрозу, которую стоит подавить.
3D-печать, автоматизация и робототехника также играют роль в этом сценарии конца света. Представьте, что через 20 лет автоматизированный автомобильный завод выйдет из-под контроля.
ИИ меняет дизайн, и производятся транспортные средства, которые подавляют людей (кто-нибудь из Терминаторов?). Они сильнее, быстрее и могут создавать свои собственные запасные части для устранения повреждений.
Сегодня у робототехники нет таких возможностей, но мы движемся к их достижению с поразительной скоростью, о чем свидетельствуют недавние видеоролики от Boston Dynamics.
Мир физики (электроны, фотоны и т. д.) работает на гораздо более высокой частоте, чем мир биологии (воспроизведение, эволюция). Эволюция Broad AI продиктована доступной вычислительной мощностью… законами физики, а не биологии.
Любой может написать следующее убийственное приложение, а это означает, что любой может создать надежный самообучающийся ИИ до того, как у нас появятся инструменты, чтобы его остановить.
Даже если бы у нас были инструменты, теоретически ИИ стал бы невосприимчив к ним. Люди от природы слишком самоуверенны. Почему люди играют в лотерею? Почему большинство считает, что они выше среднего во многих категориях, когда математически мы знаем, что это невозможно?
Я нахожу, что мы проявляем ту же самоуверенность и самоуспокоенность в своих способностях контролировать Широкий ИИ. История научила нас, что технологии всегда побеждают, и на этот раз ничего не изменится.