Как кооперируется колония муравьев? И как все клетки вашего сердца узнают, когда нужно биться? Как насчет косяка рыб или стаи птиц? Как могла жизнь возникнуть из кучи неживой материи? Все эти вещи работают, потому что они являются сложными адаптивными системами или CAS.
Откуда скворцы узнают, когда нужно внезапно изменить направление? или куда идти в первую очередь? Они знают, потому что каждая отдельная птица следует трем простым правилам.
- Разделение — избегайте скопления соседей
- Выравнивание — ориентироваться на средний курс соседей
- Сплоченность — ориентируйтесь на среднее положение соседей
Так себя ведут не только скворцы. На самом деле, люди также склонны следовать этим правилам, когда собираются вместе в группы.
Считается, что именно благодаря этому явлению на Земле зародилась жизнь. Каждый отдельный атом следует небольшому набору правил, и эти правила заставят одни атомы связываться с одними атомами и избегать других. Когда эти элементы начинают связываться, они создают молекулы, и из-за коллективного поведения суммы их частей эти молекулы могут вести себя очень сложным образом. Поскольку молекула будет следовать своему собственному небольшому набору правил, мы получаем те же эмерджентные свойства, которые мы получаем от отдельных атомов, что заставляет молекулы взаимодействовать друг с другом. Когда каждая молекула взаимодействует друг с другом и следует своим уникальным наборам правил, мы получаем все, от живых клеток до сложных материалов.
Как это применимо к вычислениям?
Отличным примером эмерджентности в компьютерных системах является игра Джона Конвея «Жизнь».
В игре «Жизнь» у вас есть доска, состоящая из отдельных ячеек.
Каждая клетка может быть либо живой, либо мертвой; изображается черным или белым квадратом.
Пользователь выбирает любое количество клеток, чтобы начать игру в живом состоянии.
Клетка, живая или мертвая, подчиняется четырем простым правилам:
- Любая живая клетка с менее чем двумя живыми соседями умирает, как будто от недонаселения.
- Любая живая клетка с двумя-тремя живыми соседями живет до следующего поколения.
- Любая живая клетка с более чем тремя живыми соседями умирает, как бы от перенаселения.
- Любая мертвая клетка, имеющая ровно три живых соседа, становится живой клеткой, как бы путем размножения.
Учитывая этот набор правил, из нашей исходной доски могут развиваться очень сложные системы.
Может ли искусственный общий интеллект появиться из компьютерной системы?
Короткий ответ на это, может быть. Есть несколько идей относительно того, где может впервые появиться ОИИ. Это может произойти из-за преднамеренного программирования одного или нейронных сетей, которые со временем становятся все лучше и лучше. Мы могли бы даже реконструировать человеческий мозг, чтобы создать ОИИ.
Некоторые считают, что ОИИ мог появиться как следствие системы, состоящей из множества более мелких компонентов, которые дают компьютеру нечто, напоминающее совесть.
AGI возникает в результате смешивания и объединения многих «глупых» компонентов подсистем, которые объединяются для решения конкретных проблем. Только тогда (как гласит история) мы можем увидеть множество неожиданных возможностей, возникающих из взаимодействие этих комбинированных подсистем. Такое эмерджентное взаимодействие можно представить себе с помощью нейронных сетей, эволюционного обучения или даже какой-нибудь умной машины, хватающей полезные приложения из Интернета.
На этом пути представление знаний определяется сложной динамикой системы, а не явно какой-либо командой программистов. Другими словами, аддитивное накопление систем и наборов навыков может способствовать нелинейному синергизму, что приводит к мультипликативным или даже экспоненциальным навыкам при концептуализации.
— Дэвид Брин
Конечно, AGI — не единственное, что может появиться из комбинации небольших фрагментов кода; Как показано в игре «Жизнь». Концепция эмерджентности имеет дело с любым свойством, возникающим из группы более мелких компонентов, работающих и взаимодействующих друг с другом. Я люблю использовать пример из игры под названием Dwarf Fortress, разработанной Тарном и Заком Адамсом. Игра представляет собой симулятор управления, в котором вы управляете группой поселенцев в процедурно сгенерированном мире. Симуляции, созданные игрой, очень сложны; Настолько, что за всю историю разработки Dwarf Fortress можно найти тысячи примеров эмерджентности.
Одним из таких известных примеров является то, что люди начали сообщать, что домашние кошки в их крепостях начали болеть.
«Теперь кошки ходили в таверны, верно, и из-за старого кода следа крови, который был где-то восемь лет назад или что-то в этом роде, им на ноги попадал алкоголь. Первоначально это было так, чтобы люди могли обмазывать кровью, но теперь любая жидкость, верно, чтобы алкоголь попал им на ноги. А потом я хотел добавить чистящие средства, чтобы люди купались, или я даже заставил работать веки без всякой причины, потому что я иногда делаю случайные вещи. Так что кошки будут лизать и чистить себя, и, забавно, когда я заставляю их чистить себя, я такой: «Ну, это кошка. Когда вы лижете уборку, вы на самом деле проглатываете то, что счищаете, верно? Они делают комки шерсти, поэтому они должны что-то проглотить, верно?» И поэтому кошки, когда они смыли спирт с ног, все напились. Потому что они пили.
Но цифры были не в этом. Я никогда не думал об активации синдрома опьянения, когда добавлял чистящие средства. Я просто подумал: «Ну, они проглатывают его и получают полную дозу», но полная доза — это целая кружка алкоголя для существа размером с кошку, и он делает все расчеты на основе количества алкоголя в крови, так что кошек тошнило, и их рвало по всей таверне».
— Тарн Адамс, интервью PCGamer.
Возникновение может произойти почти везде, где у нас есть код, достаточно сложный для того, чтобы мы могли потерять или не иметь возможности отслеживать все возможные результаты этого кода.
Это может привести к небольшому поведению, которого мы, возможно, не ожидали, или, может быть, когда-нибудь даже невероятно сложный искусственный общий интеллект.
