Несмотря на все лихорадочные разговоры об этом в наши дни, настоящий искусственный интеллект все еще остается фантастикой. Мы очень хорошо знаем, чего ожидать от автономно ведущего себя животного или человека, однако совершенно очевидно, что, имея дело с цифровыми устройствами, мы не получаем ничего, кроме далекого от человеческого мышления, пытающегося предвидеть текущую ситуацию.

У нас никогда не будет полностью автономных транспортных средств и роботов, не пробив этот стеклянный потолок, и даже сейчас мы живем с жесткими социальными и экономическими ограничениями.

Признайтесь, даже если вы разговариваете с диджитал-агентом на простом языке, вы прекрасно чувствуете, что все реакции, которые вы когда-либо получите, уже давно заготовлены, что вы разговариваете с меню, и как только вы отклоняетесь от стандартных ситуаций, вы лучше связаться с реальным человеком.

Прежде чем заглянуть за стеклянный потолок, позвольте мне привести аргументы. За последние 5 или 6 десятилетий две взаимно завистливые области пытались подражать человеческому интеллекту: одна на основе алгоритмического подхода (ИИ в узком смысле), другая на основе искусственных нейронных сетей (ИНС).

Алгоритмический ИИ

В алгоритмическом подходе человек-программист исследует конкретную проблему, чтобы понять ее сущность, а затем объединяет эту сущность в алгоритм.

Выполнение этого алгоритма затем интерпретируется как отображение интеллекта, но на самом деле это, конечно, консервированный человеческий интеллект.

Все возможные ситуации, возникающие во время подачи заявки, должны быть учтены и разрешены заранее.

Искусство и амбиции этого подхода, конечно же, заключаются в том, чтобы подвести большие массивы частных случаев под общие абстрактные структурные принципы. И за десятилетия компьютерная наука, безусловно, добилась огромных успехов в этом направлении, расширив возможности некоторых программных систем на много порядков (однако это можно было бы измерить количественно).

Наиболее впечатляющими достижениями в этом направлении являются программные средства, фиксирующие архитектуру повторяющихся паттернов и операции в пределах больших доменов. Только подумайте об инструментах для обработки текста, компьютерной алгебры, бухгалтерского учета, компьютерной графики, проектирования зданий или даже для разработки самого программного обеспечения.

Суждение о том, что алгоритмический ИИ — это не что иное, как записанный человеческий интеллект, конечно, полностью потеряло бы свой вес, если бы был написан фундаментальный алгоритм, область применения которого была бы такой же широкой, как и область человеческого разума. Это действительно было амбицией основателей ИИ, Мински, Винограда, Шэнка, Саймона и Ньюэлла, размышлявших в терминах абстрактных схем, фреймов или сценариев и предполагавших общие решения проблем и когнитивные архитектуры.

Это, безусловно, правильное направление, и эти попытки нужно будет возродить. В следующем блоге я расскажу, почему эти подходы зашли в тупик в конце семидесятых. Среди этих причин (помимо крайне недостаточной мощности компьютера) было непонимание необходимости в структуре данных, достаточно общей, чтобы сформировать общую основу для всего ментального (возможно, ключевая проблема), и непонимание важности обучения на собственном опыте. пример.

Оба эти момента подчеркиваются ИНС, вечным конкурентом алгоритмического ИИ.

Искусственные нейронные сети

ИНС черпают свою романтическую привлекательность из заявления о том, что их вдохновляет сам мозг. Они приходят вместе с фундаментальной структурой данных, стремящейся быть той, которая используется разумом для выражения всего, что разум способен выразить, и они приходят вместе с механизмами обучения на примерах.

Кроме того, ИНС долгое время сдерживались нехваткой вычислительной мощности и, во всяком случае, в их нынешнем виде, отсутствием огромных объемов данных. Что ж, и то, и другое стало доступным, и, по крайней мере, цифровые гиганты теперь имеют в своем распоряжении миллионно-процессорные кластеры и большие данные.

Глубокое обучение (ГО) вызывает восторг и рассматривается многими как ворота к истинному интеллекту в машине.

Несмотря на всю шумиху и энтузиазм, DL, к сожалению, не избегает суждения о том, что это не что иное, как консервированный человеческий интеллект.

Любая обученная система глубокого обучения зависит от предметной области, а предметная область и проблема, которую необходимо решить, определяются набором обучающих данных.

Чтобы научиться классифицировать объекты по десяти тысячам различных типов, системе глубокого обучения нужны сотни миллионов размеченных вручную изображений, каждое из которых содержит один или несколько объектов на видном месте.

Я говорю, что разум заключается в мозгах интернет-пользователей, которые навешивают ярлыки.

Умный дизайн

Старый аргумент против Дарвина о том, что сложная сущность, такая как организм или часы, обязательно подразумевает существование разумного создателя, относится к очень глубоко укоренившемуся предубеждению, которое до сих пор доминирует во многих размышлениях об ИИ.

Это предубеждение гласит, что артефакт никогда не может быть умнее, чем его создатель.

Другим его выражением является старая шутка о том, что если бы мозг был достаточно прост, чтобы мы могли его понять, мы были бы слишком просты, чтобы понять его. Не смейтесь, исследуйте свой собственный разум, не является ли это также и вашим основным отношением. Аргумент отрицает само существование творчества, появление новых идей или структур.

Но новые идеи возникают как в ходе эволюции, так и в сознании, и механизмом является случайный поиск в высокоструктурированной вселенной паттернов.

Ожесточенный спор между Разумным Замыслом и дарвинизмом мог бы потерять свою остроту, если бы было осознано, что генетический аппарат определяет весьма ограниченное пространство поиска [см. «Эволюция вслепую»?].

Точно так же наше отношение к (искусственному) интеллекту может коренным образом измениться, если окажется, что пространство, в котором работает разум, сильно ограничено.

Затем это станет основой для реализации мечты классического ИИ о создании универсального решателя проблем с архитектурой, которая была бы такой же общей, как человеческий разум, и в то же время достаточно ограниченной, чтобы не потеряться в бесконечных поисках.

DL можно рассматривать по аналогии с дарвиновской эволюцией.

В версиях с отсевом (где случайное подмножество соединений временно отключается на каждом этапе обучения) систему можно интерпретировать как совокупность вариантов.

Аналог дарвиновской пригодности варианта представлен сигналом учителя, обеспечиваемым человеком, и вероятность того, что вариант непригоден в смысле создания ошибочных сигналов, постепенно уступит место более приспособленным вариантам с меньшей вероятностью ошибки.

Архитектура системы DL состоит из ограничений на связность (уровни с прямой связью, максимальное объединение и ограничение свертки в приложениях для обработки изображений).

Тот факт, что системе ДО должны быть показаны миллионы образцов определенного объекта, например, тип объекта, который нужно классифицировать по изображению, где людям в возрасте от 3 лет требуется однократная проверка, лишает системы ДО возможности быть интеллектуальными.

Очевидно, что пространство поиска систем глубокого обучения недостаточно структурировано, слишком широко и не использует закономерности мира, в котором мы живем, что приводит к длительному времени обучения и плохим обобщениям.

Вот почему DL так сильно нуждается в человеческой поддержке, по сути, в интеллектуальном замысле.

Интеллект на заднем сиденье

Тот факт, что «машинный интеллект», как я утверждаю, полностью зависит от человеческого разума либо в силу программирования, либо в результате статистического наблюдения за человеческим поведением, отводит ему второстепенную роль.

Машины до сих пор не имеют прямого доступа к реальности прикладной области, живут в закодированном мире, и их функциональный репертуар формируется в результате участия человека в прошлом.

Это имеет важные последствия.

Во-первых, когда-либо реализуются только рутинные функции, во-вторых, существует большая задержка между генерацией и использованием функции.

Если возникает какая-либо новая проблема, если обнаруживается какая-либо ошибка, петля от клиента к компании и обратно занимает в лучшем случае месяцы. Одной из отличительных черт интеллекта является способность справляться с новыми ситуациями на месте, мы называем глупым того, кто ограничен рутинными действиями.

Правда, многие сложные человеческие способности (например, зрение, речь, игра на пианино или ответственное поведение за рулем автомобиля) также требуют значительного времени на подготовку, но затем люди могут адаптировать эти способности к новым контекстам:

Наш язык бесконечно гибок в адаптации к контексту, и пилот, посадивший свой самолет на Гудзон в экстренной ситуации, не мог основывать свое решение на точном прецеденте.

Машины, в отличие от них, должны придерживаться протоколов, и когда это становится критическим, люди должны быть в курсе.

Это хлопотно или дорого, но на нашу личную жизнь гораздо больше влияет другой фактор.

Разработка программного обеспечения стоит дорого, и приложения рассматриваются только в том случае, если для них существует рынок, тогда как для сбора больших данных для обучения уже требуется большое сообщество, в некотором роде рынок.

Например, поисковая система, не имеющая прямого доступа к содержимому и не способная его понять, вынуждена полагаться на статистические наблюдения за поведением миллиардов пользователей. Это правда, что по крайней мере часть западного мировоззрения пытается принадлежать, быть похожим на других, быть в тренде, но действительно ли мы хотим быть ограниченными тем, что делают массы?

Так что мы можем фактически оказаться между молотом и наковальней.

Наша человеческая жизнь может подвергаться серьезной опасности из-за истинного разума в машине, что вызывает серьезную озабоченность, но наша личная свобода уже сейчас скомпрометирована отсутствием истинного разума в машине.