Может ли мудрый ИИ помочь нам разумно подойти к разработке ИИ?
Распространение мудрости - неделя 6
Я на днях читал супер интересную серию статей. Речь шла об ИИ. Довольно скоро эта статья заставила меня понять, что искусственный интеллект - это не просто важная тема, а на самом деле самая важная тема нашего будущего. Это может перевернуть наш мир.
Согласно статье, появление ИСИ (искусственного суперинтеллекта) окажет такое драматическое воздействие, что может либо отправить людей к вымиранию, либо к бессмертию. Трудно предсказать, что произойдет. И когда это произойдет, это произойдет быстро. Вероятно, до того, как мы это осознаем.
Эта статья заставила меня задуматься об ИИ в связи с моей мудростью по теме диссертации. Я думаю, что между мудростью и ИИ есть интересное противоречие. Многие люди считают мудрость характеристикой человека, противоположной искусственному интеллекту. Возможно, вы могли бы возразить, что наша способность быть мудрыми - вот что на самом деле делает нас людьми. В таком случае ИИ никогда не сможет быть мудрым.
Большинство людей считают мудрость характеристикой человека, противоположной искусственному интеллекту.
На этой неделе я пытался оспорить это. Я построил небольшой термопринтер, который позволил мне печатать текст через интерфейс Arduino. Я хотел посмотреть, как люди отреагируют на мудрые советы от ИИ.
Так что на самом деле ИИ был не очень мудр. На самом деле это не был ИИ. Он просто притворялся. Фактически, я управлял принтером со своей клавиатуры.
Скрипт запускался так:
Всем привет. Я - ИИ, который был запрограммирован на то, чтобы давать вам соответствующие знания, чтобы помочь вам в принятии повседневных решений.
На данный момент 32 433 человека делятся со мной частичками своей мудрости.
Не стесняйтесь спрашивать меня о чем угодно, просто поговорив со мной.
Люди задавали самые разные вопросы. С кем провести день рождения. Как справиться со стрессом в дипломной работе. Как узнать, чего от них ждут. Было интересно это слышать.
К сожалению, участники не сочли полученные советы мудрыми. Я позаимствовал пару строк из Книги со всеми ответами. Такие вещи, как: Следуйте советам экспертов и Не делайте ставок, похоже, на людей не впечатлили. Это было слишком общим и неуместным. В этом аспекте эксперименты не увенчались успехом.
Мудрые советы не особо впечатляли людей.
В любом случае я понял, что, возможно, вместо того, чтобы притворяться оракулом, типограф должен быть посредником между людьми. Я заметил, что интерфейс принтера позволяет людям с уверенностью делиться личными делами, которые затем ИИ может предоставить людям, ищущим эту информацию.
Люди, похоже, оценили недостатки принтера. Это сделало его более человечным, что усилило сочувствие. Эти недостатки проявлялись в разных формах, и большинство из них меня удивило. Например, как принтер разделяет слова при достижении предела символов строки и звук, издаваемый принтером при печати.
Вернемся к вопросу о способности кода мудрости. Может ли ИИ быть мудрым? Мое короткое исследование заставляет меня сказать: да. Думаю, теоретически мудрость можно закодировать. Если это, то то. В случае с принтером это не обязательно означает, что он очень конкретный или жирный. Возможно, даже типограф говорит, что у него недостаточно информации о конкретной ситуации, чтобы дать разумный совет.
Думаю, теоретически мудрость можно закодировать. Если это, то то.
В ходе этого исследования я натолкнулся на еще один интересный вопрос по этой теме. Как с умом подойти к развитию ИИ? Несоответствие между быстрым развитием ИИ и отсутствием у нас знания того, как разумно его использовать, ставит мир под угрозу.
Очень сложно предсказать, что произойдет с ИИ. Поскольку мы не можем предсказать, что может случиться, к тому же очень сложно подготовиться. В любом случае, мне приходят в голову две стратегии.
Первая стратегия очевидна. Мы могли бы научить разработчиков мудро подходить к разработке своего ИИ. Одним из примеров может быть отказ от подключения ИИ к Интернету. Причина, по которой это было бы неразумно, заключается в том, что, как только ИИ поймет, что люди ограничивают его способность выполнять свою задачу, он попытается уничтожить нас.
Чем больше я думаю об этой стратегии, тем меньше начинаю верить в ее эффективность. История показала нам, что люди не всегда следуют правилам. Я совершенно уверен, что личные мотивы и, возможно, незнание заставят разработчиков подключить свой ИИ к Интернету. Тогда мы можем быть обречены.
Я совершенно уверен, что личные мотивы и, возможно, незнание заставят разработчиков подключить свой ИИ к Интернету.
Итак, что мы будем делать? Что ж, если мы пересмотрим кодовую способность мудрости, мы могли бы открыть для себя другую стратегию. Мы могли бы попытаться сделать ИИ разумным. Мудрый ИИ всегда будет учитывать возможные негативные последствия своих действий для человечества. Я думаю об этом как о модуле мудрости. Это похоже на ограничитель скорости, который мы сейчас устанавливаем на спортивные автомобили. Конечно, машина может ехать быстрее, но этого нельзя.
Я думаю об этом как о модуле мудрости. Это похоже на ограничитель скорости, который мы сейчас устанавливаем на спортивные автомобили.
Конечно, это вызовет другие вопросы. Потому что теоретически все может негативно повлиять на человечество, возможно, ИИ ничего не сделает. Чтобы противостоять этому, мы должны определить, что является достаточно плохим, чтобы быть приемлемым, что вызывает некоторые моральные вопросы.
Возможно, ИИ понимает, что модуль мудрости не дает ему расти, поэтому он попытается устранить его. В этом случае модуль мудрости всегда должен быть самым умным фрагментом кода. Я думаю, что у этой стратегии есть некоторый потенциал, потому что ИИ отлично следуют правилам, а люди - нет.
Благодаря модулю мудрости ИИ всегда будет учитывать, как его действия могут повлиять на человечество.
Если вам понравилась эта статья, возможно, вы захотите пройти со мной по моей дипломной работе магистра дизайна взаимодействия. Следите за этой публикацией или подпишитесь здесь, если вы хотите получать еженедельные обновления и размышления. ❤
