Эволюция полна хороших метафор для искусственного интеллекта

Фундаментальные теории и методы, лежащие в основе искусственного интеллекта, аналогичны естественному отбору.

Трудно было предсказать, насколько влиятельной будет теория естественного отбора, когда она впервые появилась у молодого Чарльза Дарвина в 1837 году, через шесть месяцев после возвращения из своего ключевого путешествия на Бигле.

Делая записи в своем дневнике с энергией и почерком сумасшедшего, он нарисовал свое первое эволюционное древо со словами «Я думаю» прямо над ним.

Двадцать один год спустя была опубликована книга Происхождение видов, и наши взгляды на психологию, философию, биологию и наше место (или его отсутствие) в природе подверглись сомнению и в конечном итоге изменились. , навсегда.

Эволюционная биология, которая берет свое начало в предложениях Чарльза Дарвина и Альфреда Рассела Уоллеса в середине 19 века, по-прежнему актуальна, как и тогда. Возможно, это значительно более актуально, поскольку мы развиваем нашу способность напрямую управлять и изменять свою ДНК, самую основу нашей истории жизни за 3,7 миллиарда лет.

Недооцененный побочный продукт эволюционного мышления - это искусственный интеллект и то, как мы структурируем искусственный интеллект. Тот факт, что мы неосознанно создаем ИИ таким образом, чтобы отражать дарвиновские идеи, может указывать на естественную тенденцию, которую мы должны моделировать наши творения после эволюции, или, , альтернативно, что лучший способ решить такого рода проблемы - это неизбежно дарвиновский по своей природе.

Давайте проведем параллели.

Функция затрат как мера выживаемости

Тем, кто менее знаком со спецификой искусственного интеллекта и, в частности, машинного обучения, я дам определение высокого уровня, которого должно хватить:

Функция стоимости - это то, как алгоритм оценивает точность своих прогнозов. Машина «учится», находя способ заставить эту функцию стоимости выводить меньшее число, что означает меньшую стоимость. Более низкая стоимость означает, что разница между прогнозом и фактическим ответом минимальна.

В естественной среде успех отдельного животного определяется тем, насколько оно процветает. Сколько у него потомства, как часто он голоден или как часто болит. Плохо; голод, бесплодие, отчуждение и, в конечном итоге, смерть можно рассматривать как стоимость жизни.

Естественный отбор на протяжении поколений стремится минимизировать эти затраты путем «отбора» особей с полезными мутациями (и, следовательно, более низкими затратами) для размножения своих генов, тем самым гарантируя, что мутация сохранится в потомстве.

Охватывая многие поколения, естественный отбор «учится» и регулирует параметры (физиологию живых существ), чтобы наилучшим образом снизить стоимость этого происхождения.

Это очень похоже на процесс обучения на машинах, когда алгоритм делает первоначальный прогноз, получает стоимость и на основе этой стоимости увеличивает или уменьшает определенные параметры в алгоритме, чтобы снизить стоимость на следующей итерации.

Мы можем расширить эту метафору до более точной картины ген-центрированной эволюции, предложенной Ричардом Докинзом в Эгоистичный ген, хотя я буду придерживаться традиционного, хотя и ошибочный, просмотр для простоты абстракции.

Эволюция, как и стоимость, страдает от локальных минимумов.

высокоуровневое, немного неточное определение: локальный минимум - это когда алгоритм "застревает" при определенной цене и не может улучшиться, даже если это не лучший возможный результат алгоритма.

Подобно тому, как алгоритм может застрять с затратами, кажущимися наименьшими возможными затратами, ветви эволюционного дерева, которые могут показаться многообещающими, могут просто вести в тупик.

Прекрасный пример - социальные виды пауков из рода Theridiid. Было показано, что около 23 видов независимо эволюционировали, чтобы размножаться, гнездиться, питаться и постоянно жить в колониях. Первоначально этот эволюционный путь был благоприятным из-за повышенной безопасности особи в большей группе (безопасность в количестве), а также снижения индивидуального давления, необходимого для выращивания и кормления своих детенышей.

Эта повышенная социальность и изоляция от других групп приводит к безудержному инбридингу, что является нормой для всех 23 видов. Хотя первоначальные последствия группового поведения могут быть положительными, долгосрочные эффекты инбридинга могут быть пагубными. Помимо прямых отрицательных последствий инбридинга, отсутствие генетического разнообразия делает популяцию более уязвимой к болезням. Вид в целом, разделенный на аккуратные, генетически однородные субпопуляции, имеет повышенные шансы на исчезновение.

GAN и эволюционная гонка вооружений

G enerrative A dversarial N etworks, или GAN, - это особый тип машинного обучения, в котором участвуют два конкурирующих алгоритма.

GAN создают вещи - например, эту искусственную картину, которая взяла стиль Ван Гога из Звездной ночи и применила его к фотографии ребенка.

Интуитивно понятная, очень, очень высокоуровневая структура для GAN довольно проста. В этом конкретном примере передачи художественных стилей:

GAN включают два алгоритма. Один, генератор, генерирует поддельное изображение в стиле другого. Дискриминатор пытается отличить сгенерированное (поддельное) изображение от реального. Если дискриминатор видит фальшивую работу, он сообщает генератору, почему он знал, что она фальшивая. Затем генератор принимает этот совет и повторяет его снова. Дискриминатор вовлечен в гонку вооружений: дискриминатор пытается различать, а генератор вырабатывает все более точные алгоритмы. Конечный результат - картина.

Эта гонка вооружений между дискриминатором и генератором также отражает одну из наиболее важных особенностей эволюционной биологии - эволюционную гонку вооружений.

Эволюционная гонка вооружений - это когда группы людей с общими чертами на протяжении поколений развивают эволюционные атаки и контратакуют на другую группу. Это происходит между видами, но часто между подгруппами одного вида (самцы против самок) - но для простоты я остановлюсь на случае «вид против вида».

Под «эволюционными атаками и контратаками» я подразумеваю то, что соперничающие виды развивают способы «перехитрить» другие виды, и в ответ другие виды развивают способы превзойти новые черты. Это идет вперед и назад в «гонке вооружений» за превосходство.

Часто упоминаемый пример эволюционной гонки вооружений - это продолжающаяся между сотнями видов летучих мышей и мотыльков по всему миру.

Летучие мыши впервые развили эхолокацию около 52 миллионов лет назад, отчасти чтобы питаться насекомыми и насекомыми, такими как моль, в темноте. В ответ на это в течение следующих поколений бабочки начали слышать все более и более высокие частоты, пока не могли слышать летучих мышей, прежде чем они их увидели. Затем у таких видов, как Barbastella barbastellus, некоторые летучие мыши развили« невидимую эхолокацию », которая была в 100–10 раз тише обычной эхолокации, что делало летучих мышей практически необнаруживаемыми, пока не стало слишком поздно.

Эта медленная гонка вооружений безмолвно бушует в течение 52 миллионов лет и будет продолжаться в наших задних дворах, городах, джунглях, склонах холмов и лугах еще долгие годы, пока мы не уничтожим летучих мышей полностью.

Гонку вооружений между дискриминатором и генератором в GAN можно увидеть, если этот процесс переусердствовал, когда каждая итерация алгоритма является прошлым поколением. Каждая итерация дает возможность как генератору , так и дискриминатору стать более квалифицированными и точными в том, что они делают, повышая надежность и точность обоих алгоритмов.

Системы на основе правил и машинное обучение как естественные организмы

Последнее сравнение здесь основывается на сходстве между развитием жизни на Земле и развитием искусственного интеллекта за последние 75 лет.

Первыми программами искусственного интеллекта были системы, основанные на правилах. Хотя сейчас мы склонны связывать ИИ с машинным обучением как таковое, в течение первых 30 лет существования (с 1940-х по 1970-е годы) ИИ в основном был сосредоточен на создании программ с искусственным интеллектом, которые были предварительно запрограммированы с помощью набора правил. Эти правила позволяли алгоритму принимать, казалось бы, логические решения в данной ситуации, если это находится в рамках правил программиста.

Одной из самых важных была программа Терри Винограда SHRDLU, которая слушала случайный (не кодовый) ввод человека и могла выполнять простые операции с трехмерными блоками в небольшом микромире.

Хотя это казалось чрезвычайно сложной обработкой естественного языка, было доступно лишь ограниченное количество вещей, которые можно было задать - всего несколько разных запросов, сформулированных разными способами. Ограниченная природа микромира создавала иллюзию гораздо большего интеллекта. Тем не менее, это был успех для систем, основанных на правилах.

Впервые было высказано предположение Аланом Тьюрингом в его основополагающей статье 1950 года, что системы, основанные на правилах, были слишком ограничены, чтобы масштабироваться для решения более общих задач, и что будущее было за машинами, которые могли изучать свои собственные правила при выполнении задачи. Тьюринг красноречиво написал, что:

Можно сказать, что человек может «внедрить» идею в машину, и что она до некоторой степени отреагирует, а затем перейдет в состояние покоя, как струна фортепьяно, ударяемая молотком.

Хотя теории, заставляющие машины учиться, возникли довольно рано в 50-х и 60-х годах, а небольшие нейронные сети развивались на протяжении всего этого периода, системы, основанные на правилах, доминировали на протяжении большей части 20-го века.

В основном это было связано с явной нехваткой вычислительной мощности, необходимой для машинного обучения, которая не стала доступной до 1990-х годов, и даже тогда не стала популярной до 2010-х годов, когда появление больших данных сделало машинное обучение не только более осуществимым. , но более стоящее.

Но когда эта вычислительная мощность действительно стала доступной, машинное обучение стало серебряной пулей, превзошедшей системы, основанные на правилах, почти во всех парадигмах, и сегодня его влияние продолжает расти с удивительной скоростью.

Эта метафора отражает отношение эволюции к развитию интеллекта в жизни. Продвинутое познание, как мы его определяем, редко встречается в большинстве диких животных Земли, к лучшему или к худшему.

Подавляющее большинство живых существ в мире по сути являются системами, основанными на правилах, почти полностью следуя генетическому коду, с которым они были рождены. Я не имею в виду, что это каким-либо образом оправдывает неблагоприятное отношение к природе или предполагает, что мы, люди, выше этого. Мы тоже в некотором смысле системы, основанные на правилах, ограниченные ограничениями, наложенными на нас нашими собственными биологическими контейнерами.

Основное различие заключается в меметике, или мемах. С научной точки зрения, созданный Ричардом Докинзом, мем во многом похож на ген, но вместо этого - на идею. Мем путешествует по популяциям так же, как и ген, но не по вертикали, а по горизонтали. Наша человеческая способность передавать эти идеи и опираться на них, частично превосходя то, что наша биология намеревалась делать, была ключом к нашему успеху, а часто и ко многим из наших величайших неудач.

По сути, наша способность учиться была ключом к нашему успеху, так же как переход от систем, основанных на правилах, к самообучающимся машинам показал большой успех и обобщение.

Эта идея имеет большие последствия. Разве познание всегда лучше, чем система, основанная на правилах? Ответы на это могут быть разными как в эволюции, так и в искусственном интеллекте.

Возможно, мы склонны моделировать наши машины по образцу самих себя, или, может быть, лучший способ решения проблемы неизбежно носит дарвиновский характер. В любом случае, вдохновение из эволюции обязательно откроет новые парадигмы и идеи в исследованиях искусственного интеллекта.

Адам Дхалла - ученик средней школы из Ванкувера, Британская Колумбия, в настоящее время учится на программе STEM и бизнес-программе TKS. Его увлекает мир активного отдыха, и в настоящее время он изучает новейшие технологии для защиты окружающей среды.

Следите за его I nstagram и его LinkedIn. Чтобы получить больше похожего контента, подпишитесь на его информационный бюллетень здесь.