Возможно, правильный способ освоить искусственный интеллект - не через рынки, а через открытое сотрудничество, чистые исследования и ... (содрогаться) наши правительства
Одна из самых интригующих публичных дискуссий за последний год - это борьба человечества с угрозой и перспективами искусственного интеллекта. Искусственный интеллект долгое время скрывался в нашем коллективном сознании - в отрицательном смысле, если брать за основу сюжеты из голливудских фильмов, - но его недавние и очень реальные достижения вызывают критические дискуссии о будущем не только нашей экономики, но и человечества. само существование.
В мае 2014 года мир получил тревожный звонок от знаменитого физика Стивена Хокинга. Вместе с тремя уважаемыми исследователями искусственного интеллекта самый известный в мире ученый предупредил, что коммерческое создание интеллектуальных машин может быть потенциально нашей худшей ошибкой в истории. Сравнивая воздействие ИИ на человечество с прибытием высших инопланетных рас, Хокинг и его соавторы обнаружили, что нынешнее состояние готовности человечества крайне низко. Хотя мы потенциально сталкиваемся с самым лучшим или худшим, что когда-либо случалось с человечеством, - писали они, - этим вопросам уделяется мало серьезных исследований за пределами небольших некоммерческих институтов.
Это было два года назад. Так где мы сейчас находимся?
Что касается технологической индустрии, ИИ уже здесь, просто он не распределен равномерно. Иными словами, большую его часть контролируют титаны технологий. Google полностью реорганизовался вокруг ИИ и машинного обучения. IBM сделала то же самое, объявив себя лидером в области когнитивных вычислений. Facebook тоже идет ва-банк. Основные технологические игроки вовлечены в растущую гонку за талантами, «платя за ведущих исследователей ИИ столько же, сколько команды НФЛ платят за звездных квотербеков.
Давайте рассмотрим. Два года назад самый умный человек в мире сказал, что неуправляемый ИИ вполне может положить конец человечеству. С тех пор большая часть работы в этой области была ограничена горсткой чрезвычайно мощных коммерческих компаний, вовлеченных в конкурентную гонку вооружений. И что призыв к управлению? Незавершенное производство, мягко говоря. Не совсем те ранние сюжетные линии, которые нам нужны, если бы мы хотели увидеть, как все работает на благо человечества.
Когда дело доходит до управления рождением технологии, которую обычно считают самой мощной силой, когда-либо изобретенной человечеством, какой именно режим регулирования должен преобладать?
Возникает вопрос: когда дело доходит до управления рождением технологии, которую обычно считают самой мощной силой, когда-либо изобретенной человечеством, какое именно регулирование нам нужно?
Как и ожидалось, на прошлой неделе Economist сказал, что нам не стоит особо беспокоиться по этому поводу, потому что мы уже видели этот фильм раньше, при переходе к индустриальному обществу - и несмотря на пару мировых войн, все обошлось. Двигайтесь дальше, здесь ничего не видно. Но у многих из нас неприятное ощущение, что на этот раз все по-другому: одно дело заменить ручной труд машинами и подняться по лестнице к экономике, основанной на услугах и интеллектуальной собственности. Но как выглядит экономика, основанная на автоматизации услуг и интеллекта? Обширный Economist обзор этой области заслуживает внимания. Но это оставило меня в замешательстве.
Идея о том, что вы можете вытянуть из земли свободную физическую работу, была действительно хорошей уловкой. Это Макс Вентилла, бывший глава отдела персонализации Google, который покинул корабль, чтобы начать миссию и стартап по обучению на основе данных AltSchool. В интервью для предстоящего эпизода нашей видеосерии Shift Dialogs Ventilla повторила Economist о переходе от ручного труда к индустриальному обществу и рост экономии ископаемого топлива. Но он чувствует, что на этот раз что-то другое.
«Теперь мы открываем, как выполнять умственную работу из-под земли, - сказал он мне. «(AI) будет огромным трюком в течение следующих 50 лет. Это создаст еще больше возможностей - и гораздо больше перемещений ».
В призыве Хокинга к действию особо выделялась «гонка ИТ-вооружений, подпитываемая беспрецедентными инвестициями» богатейших компаний мира. Будущее, в котором сверхразумный ИИ контролируется элитной группой крупных технологических фирм, не может не беспокоить многих из нас. Что, если благие намерения Google (организовать мировую информацию!) И Facebook (позволить людям легко делиться!) Будут кооптированы новым поколением корпоративных боссов с менее дружественными целями?
Как и следовало ожидать, у Долины есть ответ: OpenAI. Уникальное технологическое противоядие от проблемы, OpenAI возглавляется впечатляющей группой предпринимателей Valley, включая Илона Маска, Сэма Альтмана, Рида Хоффмана и Питера Тиля. Но вместо того, чтобы создать еще одну коммерческую компанию с миссией лунного полета (защитить человечество от злого ИИ!), Их создание принимает форму исследовательской лаборатории с явно некоммерческой целью: загонять прорывы в области искусственного интеллекта и открывать их. всем и каждому, бесплатно. Заявленная миссия лаборатории - продвигать цифровой интеллект таким образом, который, скорее всего, принесет пользу человечеству в целом, без необходимости получения финансовой отдачи.
OpenAI удалось убедить небольшой, но растущий список исследователей ИИ отвергать предложения от Facebook, Google и других источников и вместо этого работать над тем, что лучше всего можно было бы рассматривать как общественное достояние для ИИ. Все это дело пахнет Манхэттенским проектом - но без правительства (или секретности). И вместо того, чтобы соревноваться с нацистами, хорошие парни соревнуются с… ну, самой Долиной.
Нельзя винить крупные технологические компании в попытках выиграть гонку вооружений ИИ. Конечно, они могут принести огромную прибыль, но, в конце концов, у них действительно нет выбора в этом вопросе. Если вы ведете крупный бизнес по разработке программного обеспечения, основанного на данных, то либо у вас есть передовой искусственный интеллект, который управляет продуктами вашей компании, либо вы вышли из бизнеса. Как только Google использует искусственный интеллект, чтобы сделать свой продукт Photos волшебным, Facebook должен ответить тем же.
Умные фотопотоки - это одно. Но если мы не хотим, чтобы рыночные коммерческие компании определяли будущее сверхчеловеческого интеллекта, мы должны спросить себя: какую роль должно играть правительство? А как насчет университетов? По правде говоря, мы, вероятно, не изобрели институты, способные сдерживать эту новую форму огня. Это гонка между растущей мощью технологии и растущей мудростью, которая нужна нам для управления ею, - сказал Макс Тегмарк, основатель Future of Life Institute, одного из небольших аналитических центров искусственного интеллекта, названных в оригинале Хокинга. op-ed. В беседе с Washington Post Тегмарк продолжил: Сейчас почти все ресурсы, как правило, идут на усиление мощи технологий.
Кто определяет, что такое «хорошо»? Мы только сейчас сталкиваемся с очень реальной возможностью того, что можем создать силу более могущественную, чем мы сами. Теперь пора спросить себя - как нам подготовиться?
Неясно, собирается ли OpenAI тратить большую часть своего времени на создание новых видов ИИ, или он станет чем-то вроде центра обмена информацией с открытым исходным кодом для создания отказоустойчивых систем ИИ (лаборатория ведет раннюю работу по обоим видам). Тем не менее, осознавать, что те же самые люди, которые продвигают культуру Долины, могут также нести ответственность за ее правление, одновременно утешительно и немного смущает. В выходные дни статьи The New York Times взяли подняв вопрос, отметив проблему белых парней ИИ (стоит отметить, что автор - женщина-исследователь в Microsoft). Взгляните на команду основателей OpenAI: твердое превосходящее большинство белых.
Трудно представить что-либо более удивительное и положительное, чем успешное создание ИИ, - пишет Грег Брокман, технический директор-основатель OpenAI. Но он продолжает делать оговорку: Пока все сделано хорошо.
Действительно. Но кто определяет, что хорошо? Мы только сейчас сталкиваемся с очень реальной возможностью того, что можем создать силу более могущественную, чем мы сами. Теперь пора спросить себя - как нам подготовиться?
Может ли небольшая группа высокопоставленных исследователей ИИ предоставить интеллектуальный, моральный и этический компас для технологии, которая вполне может разрушить - или освободить - мир? Или мы должны привлечь к принятию такого решения все заинтересованные стороны - традиционно роль правительства? Независимо от того, участвует ли правительство в постановке этого вопроса, оно, безусловно, будет участвовать в наведении порядка, если мы не сможем правильно спланировать ситуацию.
Когда ИИ находился на ранней стадии разработки, его самой сильной критикой была его хрупкость: он не работал, потому что не знал всех возможных входных данных и параметров. Теперь, когда мы стоим на пороге сильного ИИ, было бы разумно включить различные мнения - в частности, тех, кто живет за пределами Долины, тех, кто не выглядит и думает, как Долина, и тех, кто не согласен с нашими исконный технооптимизм - в дебатах о том, как мы управляем его воздействием.
Если вы хотите поделиться этой историей, нажмите Рекомендовать ниже. Это действительно помогает нам распространять информацию. Кроме того, эта история сначала отправляется читателям нового еженедельного информационного бюллетеня NewCo, а теперь их читают тысячи умных людей, таких же, как и вы. Хотите получить его первым? Подпишитесь здесь бесплатно.
