Искусственный интеллект может быть замечательной вещью в той мере, в какой он может действовать, и в той мере, в какой мы позволяем ему это делать, при условии, что мы будем осторожны в том, что касается его развития, в той мере, в какой он может. делать, и в той мере, в какой мы позволяем ему это делать. Поскольку он постоянно развивается, эта динамика постоянно меняется, и поэтому мы должны быть всегда начеку. То, как мы решили обращаться с ИИ вчера, отличается от сегодняшнего и будет отличаться от завтрашнего дня. Тем не менее, это то, на что мы должны обратить пристальное внимание из-за его силы и слабости.

ИИ силен, потому что — при правильных обстоятельствах — он может воспроизводить человеческие мысли о ситуациях, которые необходимо обработать, и он может делать это быстро и легко. С другой стороны, у ИИ есть внутренние слабости из-за очевидного отсутствия у него человеческих качеств, таких как эмпатия, сознание, суждение и свобода воли. Именно эти слабости и разочаровывают, и даже опасны.

Ничто не раздражает меня больше, чем получение телефонного звонка от компьютерной программы, которая хочет, чтобы я поверил, что разговариваю со Сьюзен, которая затем пытается нормально поговорить со мной о возможности получения кредитной карты. Иногда просто ради удовольствия я сразу же включаю свои мыслительные способности более высокого порядка и даю ответ на вопрос Сьюзен, который значительно сложнее, чем тот, на который она была запрограммирована. В этом случае ее ответ доказывает, что она провалила тест Тьюринга, а я нашел радость в «победе» над ИИ, еще раз продемонстрировав, что в моем мозгу все еще есть что-то по сравнению с последними конфигурациями кремния и кода.

ИИ — это в принципе совершенно удивительная и мощная концепция. Создание ИИ на уровне, который идеально имитирует человеческое мышление, вполне может оказаться невозможным. Видите ли (и теперь я действительно говорю как человек с человеком), ИИ — это оксюморон. Если что-то искусственное, то оно не является подлинно разумным. Если что-то действительно разумно, то оно не искусственно. Никогда не забывайте об этом.

В конце своей книги The Shallows: What the Internet Is Do to Our Brains (New York: WW Norton and Company, 2010) Николас Карр предостерегает никогда не упускать из виду важную человеческую точку зрения и роль в наш все более технологичный мир:

«Соблазн технологий трудно устоять, и в наш век мгновенной информации преимущества скорости и эффективности могут казаться неоспоримыми, а их желательность не подлежит сомнению. Но я продолжаю питать надежду, что мы не пойдем мягко в будущее, которое наши компьютерные инженеры и программисты пишут для нас. Даже если мы не прислушиваемся к словам Вейценбаума («по мере того, как мы привыкаем к нашим компьютерам и зависим от них, у нас возникает искушение доверить им задачи, требующие мудрости»), мы обязаны учитывать их, быть внимательными к себе. что мы можем потерять. Как печально было бы, особенно когда речь идет о воспитании ума наших детей, если бы мы безоговорочно приняли идею о том, что «человеческие элементы» устарели и не нужны». (стр. 224)

Независимо от того, считаете ли вы ИИ изначально хорошим или плохим по своей сути, вы не можете отрицать его значимость для нашего общества. По мере того, как компьютеры, роботы и алгоритмы становятся все более совершенными, эффективность ИИ будет становиться все более убедительной. Могли бы вы проиграть спор, который исторически выигрывали?

Когда мы размышляем о силе, опасностях и возможностях ИИ, возможно, нет более острой творческой работы на эту тему, чем фильм Стэнли Кубрика 2001: Космическая одиссея. Ближе к концу фильма астронавты работают над отключением бортового компьютера HAL, который начал действовать по собственной воле, чтобы подавить контроль людей над космическим кораблем. Наконец, когда астронавты находят путь к успеху в этом начинании, HAL начинает выражать явную печаль по поводу того, что его уничтожают. Сцена рисует удивительную картину значения ИИ для человечества.

Размышляя над этой сценой, Николас Карр улавливает основное предупреждение фильма об опасностях, присущих ИИ, но не обязательно так, как вы могли подозревать:

«Излияние чувств HAL контрастирует с бесчувственностью, которая характеризует человеческие фигуры в фильме, которые занимаются своими делами с почти роботизированной эффективностью. Их мысли и действия кажутся написанными по сценарию, как будто они следуют шагам алгоритма. В мире 2001 года люди стали настолько машиноподобными, что самый человеческий персонаж оказывается машиной. В этом суть мрачного пророчества Кубрика: когда мы начинаем полагаться на компьютеры в качестве посредника в нашем понимании мира, наш собственный интеллект превращается в искусственный интеллект».

[Чтобы узнать больше о том, что написал Джеймс Т. Медоуз, посетите Blog.reliableinsights.com.]