Не слишком ли быстро технологические организации внедряют инновации, основанные на искусственных рассуждениях, которые однажды могут перехитрить людей?
Таково решение группы безошибочно узнаваемых исследователей ПК и других знаменитостей технологической отрасли, например, Илона. Маск и его коллега-благотворитель Macintosh Стив Возняк, которым требуется 6-месячная передышка, чтобы подумать об опасностях. широко использовался чат-бот с имитацией интеллекта ChatGPT, который помог провести гонку между технологическими гигантами Microsoft и провести исследование для выявления сравнительных приложений.
ЧТО ОНИ ГОВОРЯТ?
В письме предупреждается, что структуры искусственного интеллекта с серьезными знаниями человека могут представлять значительную опасность для общества и человечества — от наводнения сети дезинформацией и компьютеризации позиций до дополнительных катастрофических будущих опасностей, выходящих за рамки научной фантастики.
Оно говорит, что в последние месяцы лаборатории компьютерного интеллекта ведут сумасшедшую конкуренцию за создание и передачу постоянно сильных продвинутых личностей, которых никто — даже их создатели — не может понять, предвидеть или надежно контролировать.
Мы обращаемся ко всем лабораториям искусственного интеллекта, чтобы быстро остановить где-то на полгода подготовку фреймворков искусственного интеллекта более выдающихся, чем GPT-4, говорится в письме. Эта передышка должна быть публичной и неоспоримой, и включать в себя всех ключевых артистов. На случай, если такая отсрочка не может быть установлена быстро, законодательные органы должны вмешаться и организовать запрет.
ЭЛОН МАСК
Суд слышит соблазн администрации склоняться к Маску в сделке SolarCity
Знаменитости Твиттера не платят Илону Маску за синий знак одобрения
FTC тестирует информацию Twitter, репетирует после сокращений Илона Маска
Илон Маск приносит извинения за то, что насмехался над представителем Twitter с ограниченными возможностями.
В настоящее время различные штаты пытаются управлять симулированными интеллектуальными устройствами с высоким риском. В среду Объединенное Королевство представило документ, иллюстрирующий его методологию, которая, по его словам, позволит избежать нечетких правил, которые могут задушить развитие. Законодатели в 27 странах Европейской ассоциации организуют раздел по прояснению правил искусственного интеллекта.
КТО отметил ЭТО?
Запрос был скоординирован некоммерческой организацией Fate of Life Organization, в которой говорится, что среди подтвержденных подписантов есть пионер искусственного интеллекта, получивший грант Тьюринга, Йошуа Бенжио и другие ведущие ученые, работающие в области компьютерной разведки, такие как Стюарт Рассел и Гэри Маркус. Среди других людей, которые присоединились, есть Возняк, бывший высокопоставленный чиновник США Эндрю Янг и Рэйчел Бронсон, лидер Освобождения ядерных исследователей, группы поддержки, занимающейся наукой, известной своими предупреждениями о том, что человечество заканчивает атомный конфликт.
Маск, который управляет Tesla, Twitter и SpaceX, а также был одним из благотворителей OpenAI и одним из первых финансовых спонсоров, уже давно выражал беспокойство по поводу экзистенциальных опасностей искусственного интеллекта. По-настоящему удивительным является Эмад Мостак, президент компании Strength искусственного интеллекта, создатель компьютерного генератора интеллектуальных изображений Stable Dispersion, который сотрудничает с Amazon и конкурирует с аналогичным генератором OpenAI, известным как DALL-E.
ЧТО ЗА РЕАКЦИЯ?
OpenAI, Microsoft и исследования не ответили на запросы в среду, но письмо на данный момент имеет много сомневающихся. серьезный путь, говорит Джеймс Гриммельманн, преподаватель Корнеллского колледжа по компьютеризации и регулированию данных. Кроме того, подписка Илона Маска в высшей степени обманчива, учитывая, как упорно Tesla боролась с ответственностью за ущербный компьютерный интеллект в своих беспилотных автомобилях.
Повышение
ЭТО симулированный интеллект Сумасшествие?
В то время как письмо поднимает призрак одиозного компьютерного интеллекта, несомненно, более острого, чем то, что существует на самом деле, это не богоподобный искусственный интеллект, который вызывает стресс у некоторых, кто поддерживает его. Примечательно, что устройство, например, ChatGPT — это всего лишь текстовый генератор, который делает предположения о том, какие слова будут отвечать поставленной перед ним задаче, в свете того, что он получил от поглощения гигантских запасов сочиненных произведений.
Гэри Маркус, Почетный преподаватель Нью-Йоркского колледжа, поставивший отметку на письме, сказал в своем блоге, что он противоречит другим людям, которые испытывают стресс из-за близкой перспективы использования проницательных машин, настолько проницательных, что они могут работать над собой вне пределов досягаемости человечества. Что его больше беспокоит, так это средний компьютерный интеллект, который широко рассылается, в том числе мошенниками или психологическими активистами, чтобы обманывать людей или распространять опасный обман.
Нынешние инновации на данный момент представляют собой гигантские опасности, к которым мы плохо готовы, — сочинил Маркус. . С будущими инновациями все может ухудшиться.
