Все достижения в области искусственного интеллекта, о которых вы когда-либо слышали, - будь то машины, побеждающие людей на ходу, большие достижения в области машинного перевода, беспилотные автомобили или что-то еще - являются примерами слабости AI. Каждый из них сосредоточен на одной узко определенной задаче. Некоторые хотят заставить вас поверить, даже опасаться, что эти достижения неизбежно приведут к сильному ИИ (человеческому уровню интеллекта), который, в свою очередь, приведет к суперинтеллекту. больше не буду контролировать. Страх даже в том, что такая сущность поработит человечество и захватит мир! Возможно, есть пути к такому виду суперинтеллекта, но слабый ИИ - будь то машинное обучение или другие методы - не один из них.

Среди тех, кто убежден в простом переходе от слабого ИИ к сильному ИИ, есть Ник Бостром, автор книги Суперинтеллект: пути, опасности, стратегии, который недавно рассказал Business Insider что машины достигнут человеческого уровня интеллекта в течение следующих нескольких десятилетий, и нейробиолог / философ Сэм Харрис. Харрис заявил в недавнем выступлении на TED:

до тех пор, пока мы продолжаем строить системы атомов, которые демонстрируют все более и более разумное поведение, мы в конечном итоге будем встраивать общий интеллект в наши машины.

Он даже добавил, что

Достаточно любого прогресса, нужно только продолжать.

Идея искусственного суперинтеллекта, возникающего как неизбежное следствие непрерывного технического прогресса, была популяризирована (хотя и более оптимистично) Рэем Курцвейлом. В своей книге Сингулярность близка Курцвейл предлагает страницу за страницей кривых экспоненциального роста в качестве доказательства этой неизбежности.

Что общего у пессимистического и оптимистичного взглядов на Сингулярность - это полное отсутствие строгости в определении того, о чем они даже говорят. Бостром, к сожалению, но, возможно, мудро, никогда не пытается дать определение интеллекта. Харрис определяет это как обработку информации и предупреждает нас, что наши постоянные улучшения в обработке информации неизбежно приведут к появлению сущностей, которые намного умнее нас.

Давайте представим себе эти сущности будущего, которые возникли в результате развития слабого ИИ. Представьте их существами, которые могут делать что-то в этом мире (иначе как они могли бы нам угрожать?). Что интересует этих существ? Какими бы ни были их интересы, они должны быть интересами, которые лучше обслуживаются расширенными возможностями обработки информации. Теперь давайте перевернем кривую прогресса, чтобы вернуться во времени ...

Если вернуться в прошлое, способность этих существ к обработке информации, которая позволяет им лучше служить своим интересам, чем мы можем служить нашим, снижается. Таким образом, на каждом этапе у нас должны быть существа с интересами, то есть с желаниями, мотивациями и т. Д., Которым они хуже способны служить, поскольку у них меньше «интеллекта». Но мы уже знаем, что это не то, что мы найдем. Представьте, что мы полностью вернулись в настоящее! Все, что мы найдем, - это машины, построенные людьми, с алгоритмами, написанными людьми, и все они созданы для того, чтобы служить интересам людей. Если бы наши воображаемые сверхразумные сущности будущего существовали - и помните, они должны были быть потомками нынешних слабых систем ИИ - тогда их прошлое существовало бы прямо сейчас. Но это не так.

Интеллект не является самоцелью; это средство для достижения цели. Мы, люди, используем свои превосходные способности к обработке информации, чтобы выжить и преуспеть в этом мире. Это включает создание слабых систем искусственного интеллекта. Если в будущем появятся другие сущности, которые могут аналогичным образом использовать такие ресурсы, то именно создание этих существ, а не слабые системы искусственного интеллекта, которые они будут использовать, знаменует собой начало прогресса в направлении суперинтеллекта. В конце концов, слабые системы ИИ - это, по сути, инструменты. Они отлично подходят для конкретных дел, но они никогда не захватят мир в одиночку. Для такого рода опасности вам понадобится существо или существо, которое смотрит на эти инструменты и говорит: «Я хочу захватить мир, и, возможно, я смогу использовать эти инструменты, чтобы помочь мне в этом».