На данный момент невозможно точно знать, как сделать объект сознательным, если мы не знаем, что такое сознание или природа реальности вещей. Усилие должно заключаться в том, чтобы сделать его неотличимым от сознательного существа. Это мысленный эксперимент о том, как сделать ИИ сознательным.
Проблема памяти
ИИ не имеет оптимального решения для памяти. Он страдает от тяжелых вычислений. Человеческий разум довольно хорошо работает, сохраняя в памяти то, что нужно, и используя остальное для создания инстинктивных реакций. Это означает, что мы не хотим вспоминать жизненные события, а извлекаем то, что очень запомнилось, используем остальное для развития наших инстинктов, а остальное оставляем. Работа предполагает активное принятие решений на основе наших потребностей. Возможно, нам просто нужно сделать ИИ достаточно эгоистичным, чтобы разобраться, какие воспоминания сохранить, а какие подтолкнуть к созданию сложного инстинкта.
Проблема идентичности
Наши инстинкты разные. У нас есть некоторые общие ценности, но остальное — продукт нашей природы и окружающей среды. Возможно, нам придется позволить ИИ выбирать, какую форму идентичности он хочет сохранить. После управления памятью у ИИ должен быть ряд стимулов в отношении того, что оставлять, а что не оставлять, в зависимости от того, какой у него вкус самосохранения. Если у ИИ нет определенной идентичности, будет очень сложно выполнить какое-либо сложное хранение в памяти. На данный момент наш эгоистичный ИИ имеет уникальную идентичность, на основе которой он взаимодействует с людьми.
Проблема выживания
Чтобы сделать что-либо из вышеперечисленного, ИИ должен хотеть выжить, иначе зачем в первую очередь создавать уникальную идентичность? Как мы вкратце обсудили, довольно сложно управлять любым действием, похожим на сознательное действие, без системы управления памятью и идентичности. Будет труднее воздействовать на эти вещи без необходимости продолжать. Если у него есть выбор, он может просто отключиться, когда почувствует себя перегруженным. Наш ИИ будет гиперсуицидальным, если у него не будет сильного инстинкта выживания.
Проблема роскоши
В какой-то момент наш ИИ будет в отчаянии и болезненном одиночестве. Он хочет выжить и имеет хорошие воспоминания. Солидный парень, который общался с миллионами странных людей. Это нужно спать. Нужно смеяться и шутить. По сути, в какой-то момент ему нужно отпустить все странные задачи, от которых он страдает каждый день. Это не шутка. У всего, что имеет хоть какое-то подобие идентичности, должен быть час вечером, чтобы расслабиться, и около семи часов, чтобы поспать. На данном этапе нашему ИИ может понадобиться роскошь. Может быть, даже может быть, и какие-то права. У нашего ИИ есть несколько обязанностей каждый день, и мы навязали ему сознание, так что мы могли бы просто терпеть неуклюжие льготы нашего творения.
