За короткий промежуток времени с момента публикации статьи Является ли машинное обучение открытым? Я пришел к мысли, что методы машинного обучения вполне могут обеспечивать открытое обучение. Я предположил, что подход, который делает узлы явными объектами естественного отбора, может быть подходящим путем, но я все больше уверен, что это не сработает. Причина моего обратного отслеживания заключается в том, что я не убежден, что простого превращения узла в эгоистичного агента, максимизирующего приспособленность, достаточно, чтобы превратить его в эволюционный объект. Подобно тому, как я утверждал, что объекты мемов закодированы в конфигурации сетевой структуры мозга, я думаю, что та же проблема относится и к моему собственному предположению. В результате я теперь вполне убежден, что естественный отбор и другие алгоритмы оптимизации будут давать (и не давать) эквивалентные эффекты по тем же причинам.
Проблема с такими объектами, как гены или мемы, в том, что они не являются физическими вещами. Если бы мне пришлось собрать все участки ДНК, которые производят одинаковый эффект, я бы обнаружил, что каждая функциональная единица ДНК содержит различные последовательности ДНК. Ген определяется не как какая-либо конкретная последовательность ДНК, а как функциональная единица. Используя философский жаргон, соответствующий ген эволюционной теории - это не материальный «знак», а информационный «тип». Или, другими словами, ген (или мем) - это единица семантического содержания, а не чисто синтаксический объект. К сожалению, следствием этого является то, что ген всегда будет нематериальным или нефизическим продуктом кодирования и не может быть напрямую помещен в сеть, как я предварительно предполагал ранее.
Тем не менее, я думаю, что мои критические замечания по поводу неизменности текущих сетевых архитектур остаются в силе. Я настоятельно рекомендую анархический подход к настройке сети перед обучением, задавая как можно меньше руководящих ограничений, чтобы освободить место для творческих решений. Идеалом этого субструктурного подхода к нейронным сетям было бы инициировать обучение с помощью сети, которая имеет небольшое количество скрытых узлов и позволить скрытым узлам расти, делиться или исчезать в соответствии с определенным выбором. В случае успеха такой субструктурализм устранит необходимость в искусстве проектирования нейронных сетей, заставив сети структурировать сами себя без фиксированных всеобъемлющих ограничений по форме, таких как расположение слоев, ширина и глубина, которые ограничивают то, как узлы могут соединяться. Делая меньше предположений, субструктурализм может вместить более широкое разнообразие объектов.
Я по-прежнему рассматриваю взаимосвязь между сетевым кодированием и объектами как серьезную проблему проектирования: нам нужны сети с эволюционными объектами, которые выбираются (или оптимизируются) независимо друг от друга, но их нельзя напрямую закодировать в обучающую архитектуру. Концептуальная проблема состоит в том, что мы не должны рассматривать эволюционные объекты как нечто, находящееся «где-то там» в окружающей среде, а вместо этого эволюционные объекты возникают из отношений между агентом и его окружением. Эволюционные объекты, как единицы семантического содержания, создаются в результате взаимодействия между строкой синтаксиса (то есть «снаружи» в среде) и субъективной интерпретацией синтаксиса агентом (то есть внутренней). Итак, с точки зрения агента, физическая вещь будет только эволюционным объектом, который подвергается отбору , если его целесообразно интерпретировать как объект (путем декодирования синтаксиса в значение).
С эволюционной точки зрения можно хорошо представить, что агент изобретает идиосинкразический синтаксис в природе для хранения информации о личном опыте и обучении до того, как совокупность агентов общается через общий набор синтаксико-семантических взаимосвязей. Идиосинкразический синтаксис позволит поведенческим реакциям агента превратиться в зарождающиеся мемы - я имею в виду мемы, которые не могут быть воспроизведены посредством коммуникации для передачи между агентами. Такие мемы могут подвергаться естественному отбору в сознании агента, если агент может изобрести (или встроить) некоторую систему оценки их успеха при выполнении задачи. Но мне не ясно, как сторонний наблюдатель может различить поведение или нейронные паттерны агента с популяцией инструктивных инстинктов или такого рода начального меметического обучения. Это извечная проблема психологии, которая привела к тому, что этология (изучение поведения животных) приняла радикальный бихевиоризм, консервативно игнорируя возможность наличия у животных психических состояний, которые могли себе позволить зародышевые мемы. Но, как я уже много раз говорил ранее, очень немногие животные обладают достаточно сложным поведением, чтобы в любом случае можно было проводить анализ с помощью меметики.
При рассмотрении машин, в принципе, единственная отличительная черта должна указывать на то, что машина использует ментальный синтаксис для создания зарождающихся мемов, - это то, что их поведение должно быть в высшей степени гибким и компетентным. После дальнейшего изучения математики нынешней формы прогрессивных нейронных сетей они действительно почувствовали себя довольно «деспотичными» в ограничении нейронных сетей, чтобы они сохраняли части всей сети, которые соответствуют предыдущему обучению. Я бы по-прежнему утверждал, что это не то же самое, что меметическая форма гибкой компетенции. Вместо этого, как я утверждал ранее в этой статье, субструктурный подход может дать необходимую креативность без «жесткого кодирования» желаемого результата.
Но даже если бы был использован субструктурный подход, я не уверен, что этого было бы достаточно, чтобы получить зарождающиеся мемы. Я считаю, что сложность окружающей среды играет невероятно важную роль. Если бы среда была очень простой, не было бы причин разрабатывать собственный синтаксис для идей. Синтаксис - это, прежде всего, инструмент памяти. Вместо того, чтобы иметь какое-либо количество аналоговых состояний, синтаксис создает определенный код, который можно использовать для хранения результатов обучения.
Когда вы думаете о развитии ребенка, не случайно сложность поведения коррелирует с развитием речи (также обнаруживается в коррелированной патологии). Синтаксис, поскольку я широко использую этот термин здесь, в первую очередь относится к вербальному синтаксису фонем, потому что именно он позволяет кодировать идеи (не обязательно буквы, хотя это более поздняя и частично совпадающая разработка кодирования). Возможность буквально говорить с самим собой открывает такие способности, как рассуждение, самосознание и т. Д., Которые лежат в основе обучения. В конце концов, обработка закодированных идей с помощью таких ментальных функций позволяет сравнивать одну идею с другой как зарождающиеся мемы во внутреннем избирательном процессе. Этот вид меметического обучения особенный по сравнению с инстинктивной системой оценки мемов, потому что он отделяет мемы от генов и позволяет мемам оценивать друг друга. Хотя гены могут служить основой для системы оценки, мемы становятся главными арбитрами в рассуждениях.
Но прежде чем слишком зацикливаться на человеческом примере, очевидно, что существует много неявных человеческих знаний, то есть их нельзя рассуждать или передавать между людьми. Такое знание явно не меметическое, хотя может принадлежать к категории мемов «инстинктивной оценки». Я бы предположил, что немеметическая интерпретация лучше, потому что, как только неявное знание забывается, не существует «тега» или эквивалента, который позволяет извлечь единицу неявного знания. Забытое молчаливое знание не может быть повторно изучено посредством воспоминаний, но должно быть восстановлено на собственном опыте. Следовательно, таким знаниям на самом деле нет места в уме, поскольку это действительно своего рода подсознательная или двигательная пластичность.
Следуя этому различию между меметической и пластической частями поведенческого контроля, мы не должны ожидать, что мозг будет единственной целью-машиной разума, потому что он участвует во многих других телесных элементах управления, которые лучше оставить на их усмотрение, от дыхания до равновесия. . Точно так же мы не должны ожидать, что искусственная нейронная сеть будет представлять собой единую систему меметических рассуждений, потому что есть другие функции, которые лучше оставить немеметическим процессам, таким как пластичность. Проблема, с которой мы сталкиваемся, по сути, заключается в разработке среды для агентов машинного обучения, которые продвигают ментальный модуль, обладающий меметическими качествами. Наиболее очевидным изменением является увеличение сложности обучающей среды и сенсориомоторных систем, которые позволяют агенту взаимодействовать с обучающей средой. Это начинают делать исследователи ИИ, особенно DeepMind, которые постоянно усложняют игры, в которые играют их агенты DQN. Но пока рано говорить о том, окупится ли это, как хотелось бы.
Это такое интересное время для искусственного интеллекта, и все движется так быстро. (На самом деле так быстро, что я отвечаю самому себе в тот же день, когда пишу пост!) После моего затруднительного положения и обратного отслеживания я думаю, что существующие методы вполне могут быть пригодны для (открытого) обучения в меметическом стиле. и будет решительно поддерживать разработки в двух ключевых областях: 1), как и раньше, предоставление машинам большей мощности для проектирования их собственных сетевых архитектур и 2) с новым акцентом, увеличивая сложность сред машинных агентов и сенсориомоторного доступа к этим средам. Наконец, я бы также решительно повторил идею От инстинкта к интеллекту: вы можете спроектировать машину, которая кажется, чтобы иметь интеллектуальное поведение через компетенцию в выполнении задач из сложной сети жестко запрограммированных 'инстинкты, которые, вероятно, есть у многих животных, но есть нечто принципиально иное в человеческом разумном поведении, потому что мы становимся разумными до того, как становимся разумными. Значение для машинного обучения состоит в том, что существующие методы позволят собрать гораздо больше трофеев, но ИИ действительно нуждается в биомиметическом подходе, чтобы изменить лигу создаваемых интеллектуальных машин. Создание машины с мем-компетенцией вполне может быть приземленной целью для создания AGI, но все еще сложно знать, как спроектировать 1) соответствующую субструктуру потенциально меметического агента и 2) соответствующую среду, чтобы реализовать меметический потенциал агента.
Я чувствую себя намного увереннее в этом заключении, чем в том, что я опубликовал сегодня, но я хотел бы услышать ваши мысли и комментарии. Спасибо за прочтение!
