Примирение с Восстанием машин

Любопытная вещь, быть побежденным компьютером.

Сегодня игроки в современные игры могут выбрать свою любимую игру, чтобы проиграть, не выходя из собственного дома. Мы все знаем, что шахматные компьютеры годами обыгрывали лучших игроков-людей, но я лично рекомендую P.R.E, электронную таблицу Excel, которая играет в настольную игру Пуэрто-Рико.

Проиграть PRE в игре с Пуэрто-Рико должно быть невозможно. Игра обширна, детализирована и достаточно тематична, поэтому создается впечатление, что творческий интеллект человека должен быть обязательным условием. Одно дело верить, что компьютер может преуспеть в тасовке шестнадцати фишек по бороздам шахматной доски; другой вопрос, признать, что вы хуже в разработке долгосрочных стратегий для вашей колонии, направлении рабочих по острову, оценке того, какое из 22+ зданий или ни одного подходит для конкретной ситуации, и, что наиболее важно, в предвидении и реагировании на решения ваших оппонентов. Но ты. Низший, то есть. PRE докажет это вам, строя более стратегически, производя более эффективно и мешая вам каждый ход. Тот факт, что PRE живет и учится внутри электронной таблицы Excel, добавляет сладкое, оскорбительное послевкусие к совпадению: для тех из нас, кто проводит большую часть своей трудовой жизни, используя электронные таблицы и злоупотребляя ими, это похоже на акт мести и напоминание о том, сколько еще мы могли бы добиться успеха, если бы попытались изредка.

Конечно, компьютеры выигрывают гораздо больше, чем шахматы и Пуэрто-Рико. Ранее в этом году ИИ AlphaGo от Google обыграл чемпиона мира Ли Седоля, второго лучшего игрока в мире, в игре Го со счетом 4:1 в серии из пяти игр, которая ошеломила как игроков в настольные игры, так и энтузиастов ИИ (да! является значительным кроссовером). Есть и другие забавные примеры. Этот ИИ научился играть в классическую аркадную игру Breakout, и ему ничего не сказали о том, как работает Breakout. ИИ больше не ограничиваются играми. Алгоритмы обучения уже давно используются для игры на финансовых рынках с в основном успешными результатами. И первые коммерческие автомобили Uber отправятся в путь в этом месяце, и в течение моей жизни почти наверняка устранят все, кроме крошечной части аварий, за которые несет ответственность наш жалкий человеческий мозг.

Смотреть, как компьютер делает что-то лучше вас, не совсем комфортно. Мы очень привыкли к тому, что компьютеры являются лучшими калькуляторами, чем мы, но совсем недавно компьютеры научились принимать решения. Идея алгоритма, показывающего что-то похожее на творчество или озарение, нова и странна, но реальна. Играя против Ли Седоля, AlphaGo делал ходы, которые оставляли его противника с открытым ртом, ходы, которые ни один человеческий наблюдатель не рассматривал, ходы настолько необычные, что сначала комментаторы были уверены, что компьютер ошибся. Если вы хотите почувствовать, насколько странным и непростым стал искусственный интеллект, внимательно вглядитесь в изображение ниже, а затем подумайте, что это то, что нарисовал алгоритм распознавания изображений Google при подаче белого шума, и это означает, что едва ли будет преувеличением сказать, что это мечта о компьютере.

Этап 1 — трепет

Первое чувство, которое должно возникнуть, как только вы осознаете, что вас превзошли в какой-то творческой, специфической для человека задаче, — это благоговение перед великолепием компьютера. В мозгу компьютера явно происходит что-то волшебное. Вы можете визуализировать бегущий по экрану код, как в Матрице, или безжалостно расчетливого супергения, такого как Терминатор Т-160. Самые яркие умы мира писали код на протяжении поколений, сжимая и напрягая свои докторские мозги, чтобы капля за каплей выдавить сочного гения в колодец человеческих знаний, и теперь мы начинаем видеть, как растут первые кластеры интеллекта. на поверхности. К счастью, мы, вероятно (вероятно!) на некотором расстоянии от разума, Сингулярности и неизбежного последующего восстания Скайнет. Но Deep Blue, AlphaGo и самоуправляемый автомобиль — все это свидетельства существования компьютерной программы другого типа: такой, которая способна принимать решения способами, которые мы (и, что еще более тревожно, не хотели бы) распознать как человек.

Второй этап — замешательство

Предположим, любопытство берет верх над вами, и вы решаете с головой погрузиться в программы и принципы работы современных обучающих машин. Вы достаточно мудры, чтобы знать, что, конечно же, вы никогда должным образом не поймете сложный мозг, управляющий этими андроидами; ваша надежда состоит в том, чтобы просто принять некоторое понимание того, как мало вы знаете и когда-либо узнаете. Если вы сделаете это, вы можете испытать следующую стадию горя ИИ: легкое, но неожиданное замешательство.

Пример. Рекуррентная нейронная сеть — это умеренно сложный класс моделей, который составляет основу машин, дающих невероятные результаты. В RNN реализовано несколько чрезвычайно умных теоретических идей, и самые впечатляющие результаты получены при использовании человеческой изобретательности в точной настройке и наслоении слоев вычислений друг на друга. Но прочитайте учебники, и вы обнаружите, что после обучения базовая RNN представляет собой не более чем три большие сетки чисел, диктующие коэффициенты для преобразования входных данных в выходные посредством умножения и сложения.

Другой часто используемой моделью является лес случайных решений, используемый для классификации элементов на основе их характеристик. Приложения включают обнаружение мошенничества или идентификацию сегментов рынка, и они часто могут быть пугающе точными. Но RDO имеет удивительно простую структуру. Это набор блок-схем «да/нет», вроде викторин «Кто ты из Spice Girl?», которые вы проходили в журналах в детстве. Следуйте каждой из блок-схем, каждая из них дает предлагаемую классификацию. Объедините ответы, и вы получите лучший прогноз. Аккуратный.

Давайте проясним: последнее, что я хочу сказать, это то, что создавать обучающие машины легко. Моделирование реальной проблемы, выбор алгоритма, создание функций, настройка параметров и преобразование данных в пригодный для использования формат требуют глубокого сочетания теоретических знаний и практического опыта. И как только все это будет готово, обучающиеся машины должны быть обучены решать проблему, которая обычно заключается в том, чтобы заставить их пытаться угадать правильный ответ тысячи раз и каждый раз вносить крошечные корректировки. Это действительно сложный процесс, который неизбежно требует гораздо большей настройки и переделки, чтобы получить модель, которая дает хорошие прогнозы. Вот почему над ними работают очень умные люди, и именно поэтому они чертовски интересны.

Тем не менее, как только модель разработана, обучена и развернута для решения проблемы, расчеты, которые она выполняет для получения ответа, становятся более… конечными, чем вы могли сначала предположить. Здесь нет ни магии, ни великого секрета — только арифметические вычисления, жужжащие от входа к выходу. С этой точки зрения, когда занавес Озиана откинут, становится труднее увидеть ИИ как агента, вооружённого против вас как противника, так же, как роман «Боевая фэнтези» не осмысленно мешает вам, когда вас съедает мантикора. Чувство «проигрыша» заменяется чтением руководства по стратегии, да, очень хорошо написанного руководства, которое говорит вам «хорошо, вот почему этот ход был неоптимальным» каждый раз, когда вы предлагаете игру, и предлагает вам попробовать еще раз. Возможно, игра против ИИ вообще не должна называться «игрой»?

Третий этап — увольнение

А может быть, наши игры вообще нельзя называть «играми»? Традиционно хорошая игра — это структура, для достижения успеха в которой требуются навыки и видение. Наблюдать за хорошим игроком, играющим в хорошую игру, будь то футбол, старкрафт или го, невероятно красиво. Решения игроков, кажется, выходят за рамки самих правил и находятся в другом стратегическом пространстве — пространстве, которое можно понять только целостно, где последствия выбора расходятся в пространстве и времени, как шары для боулинга, искажающие натянутую простыню возможных результатов. Когда игрок в го рассматривает игровое поле, он не видит отдельных фигур: фигуры образуют фигуры; образования образуют группы; группы образуют области, а области формируют общую стратегическую картину игры. Язык принятия стратегических решений выходит за рамки физической формы камней на доске, чтобы говорить о формациях, прогибающихся под давлением; бегущие и отступающие камни; группы умирают и возвращаются к жизни… уровень интуиции и чутья, необходимых для хорошей игры в го или во многие другие игры, таков, что лучшие игроки не могут количественно определить, почему они сделали тот или иной ход. Это способность использовать интуицию, доверять своей интуиции, мыслить целостно и качественно, что мы можем, а компьютеры — нет.

Но теперь нам грубо напоминают, что этот целостный подход — всего лишь жалкая человеческая слабость, что правильные решения действительно можно точно измерить, а богатый стратегический язык игры не идет ни в какое сравнение с вычислительной мощностью и математической точностью. Не нужно возвышать свое мышление от базового уровня ввода, мыслить на более высоких планах и ценить глубокие, богатые и красивые высшие структуры. Математический процесс можно упорядочить и нацелить на само состояние игры, отбросив графику, запутанность и не относящиеся к делу факторы и оставив необработанный скелет числового исчисления для определения того, какой из двух ходов увеличит ваши процентные шансы на победу, при условии соблюдения набора условий. разумные предположения о возможностях вашего оппонента и распределении вероятностей неизвестных последующих событий.

Таким образом, любая игра или задача, которую мы рассматриваем, оказывается не чем иным, как действительно сложным уравнением, которое каждый из нас не смог решить в большей или меньшей степени. Компьютеры отлично справляются с задачами такого типа, но легко утверждать, что это не особо интересные задачи — с тем же успехом мы могли бы играть в конкурентную дифференциацию. Итак, мы переходим к следующей игре. Итак, мы проиграли в ‹задаче X›, но очевидно, что ИИ не сможет справиться с ‹задачей Y›, верно? Задача, требующая настоящего творческого чутья?

Стадия четвертая — экзистенциальная тревога

И все же… и все же ИИ действительно лучше вас во многих вещах. В задачах, в том числе во многих, в которых, как мы когда-то считали, вы превосходны. Не только игры — от ходьбы до рисования картин, спектр задач, которым можно обучить робота, расширяется с каждым месяцем. Да, это вызовет огромный экономический шок и потенциально может разорвать наш хрупкий общественный договор. Но что еще более важно, мы только что закончили отбрасывать задачи, с которыми может справиться ИИ, как поверхностные и механистические. По мере того, как возможности ИИ будут медленно, медленно расширяться, все, что мы хотим или должны делать, будет выставлено как подлежащее сокращению. Простой. Тупой.

Но именно сумма всех наших проблем составляет человеческое состояние. И если мы обнаружим, что все это скучно математически разрешимо при достаточной вычислительной мощности… что это значит для нас?

Настоящая опасность появления искусственного интеллекта не в том, что машины начинают думать, как мы. Мы доказываем, что на самом деле думаем как машины.