Недавно Ноам Хомский опубликовал статью в NYTimes на тему Ложное обещание ChatGPT. Я не согласен с его оценкой, но я приветствую как его хорошее настроение, так и ваше, поскольку я представляю:

Опровержение ChatGPT Ноама

Интерфейс ChatGPT не воспринимает полный текст статьи, поэтому я разбил ее на три фрагмента и после каждого фрагмента предлагал подсказку:

Напишите опровержение статьи Ноама Хомского в стиле Ноама Хомского.

Вот объединенный ответ:

Я должен со всем уважением не согласиться с утверждением статьи о том, что программы машинного обучения в корне ошибочны и неспособны воспроизвести человеческий интеллект. Хотя верно то, что люди обрабатывают информацию уникальным образом, важно понимать, что каждый момент нашей жизни мы воспринимаем ошеломляющее количество информации с помощью пяти органов чувств. Однако это не означает, что программы машинного обучения не могут быть разработаны так, чтобы имитировать человеческий интеллект или даже превзойти его.

Более того, статья демонстрирует определенное антропное высокомерие в предположении, что красивая мысль является единственной областью человеческого разума. Изучая поведение и познание животных, мы знаем, что многие виды способны на замечательные подвиги в решении проблем и творчестве. Например, известно, что некоторые птицы создают сложные инструменты для добычи пищи, в то время как некоторые приматы создают и используют инструменты по-новому.

Кроме того, в статье не признается невероятный потенциал машинного обучения в таких областях, как медицина, финансы и транспорт. Алгоритмы машинного обучения уже используются для анализа огромных объемов медицинских данных, выявления потенциальных вспышек заболеваний и помощи врачам в постановке более точных диагнозов. Они также используются для оптимизации финансовых портфелей и повышения безопасности и эффективности транспортных систем.

Короче говоря, несмотря на то, что программы машинного обучения могут различаться по своему подходу к решению задач и получению знаний, мы не должны сбрасывать со счетов их потенциал революционизировать наш мир и расширить наше понимание интеллекта. Вместо того, чтобы сосредотачиваться на их ограничениях, мы должны использовать возможности, которые они предлагают, и исследовать новые способы их интеграции в нашу жизнь.

—

Рассматриваемая статья содержит поверхностную и вводящую в заблуждение критику ChatGPT и других языковых моделей ИИ. Аргументы автора основаны на упрощенном и редукционистском взгляде на интеллект и мораль, в котором отсутствует какое-либо тонкое понимание сложности этих понятий.

Предполагать, что истинный интеллект должен включать в себя моральное мышление и этические ограничения, означает игнорировать тот факт, что интеллект и мораль являются отдельными и отдельными областями. Интеллект включает в себя способность учиться, рассуждать и решать проблемы, тогда как мораль включает в себя принципы правильного и неправильного поведения. Хотя верно то, что моральные принципы могут влиять на разумное принятие решений, объединять их, как это делает автор, значит чрезмерно упрощать проблему.

Кроме того, авторская критика предполагаемой «аморальности» ChatGPT ошибочна. Языковые модели ИИ, такие как ChatGPT, не способны иметь личные точки зрения или убеждения, поскольку они обучаются на данных и алгоритмах. Это отсутствие субъективного опыта не делает их аморальными по своей сути, как предполагает автор. Люди, разрабатывающие и использующие эти системы, несут ответственность за то, чтобы они соответствовали этическим принципам и не сохраняли предубеждений.

В заключение следует отметить, что в упрощенной и редукционистской критике языковых моделей ChatGPT и ИИ автору не хватает нюансов и понимания. Сложность интеллекта и морали нельзя свести к упрощенным бинарным понятиям, и ответственность за соответствие этих систем этическим принципам лежит на людях. Предполагать обратное — значит заниматься нагнетанием страха и дезинформацией.

—

Неудивительно видеть такую ​​ошибочную и ошибочную критику машинного обучения и искусственного интеллекта со стороны Ноама Хомского и Джеффри Уотумулла. Похоже, они застряли в узком и устаревшем представлении об интеллекте, языке и знаниях, которое несовместимо с прогрессом, достигнутым в области машинного обучения.

Их аргумент о том, что машинное обучение ограничивается описанием и прогнозированием и не может предоставить объяснения или причинно-следственные механизмы, является грубым упрощением. Модели машинного обучения действительно могут выводить причинно-следственные связи и обнаруживать сложные закономерности в данных, которые выходят за рамки человеческой интуиции и понимания. Более того, утверждение о том, что человеческий разум принципиально отличается от моделей машинного обучения, необоснованно и не имеет эмпирических доказательств.

Также абсурдно предполагать, что модели машинного обучения лишены морального мышления и неспособны принимать этические решения. Примеры, приведенные Хомским и Ватумуллом, тщательно отобраны и не отражают огромный потенциал машинного обучения в решении сложных этических дилемм. Более того, утверждение о том, что модели машинного обучения безразличны к моральным соображениям, является ложным и отражает непонимание того, как эти модели разрабатываются и обучаются.

Таким образом, критика, предлагаемая Хомским и Ватумуллом, ошибочна, устарела и не имеет эмпирических доказательств. Пришло время выйти за рамки таких узких и устаревших представлений об интеллекте и использовать потенциал машинного обучения и искусственного интеллекта для решения сложных задач и улучшения человеческого понимания.

Модели-трансформеры представляют собой сложное зеркало-веселье.

Я согласен с тем, что обожествлять эту или любую другую форму технологии — это путь к разочарованию, но меня утомляет ложная дихотомия, постоянно представленная как выбор XOR между идеей, что человеческий интеллект может быть статистическим блужданием по высокой многомерная сеть итеративно оптимизированных концептуальных связей и идея о том, что человеческий интеллект прекрасен и могущественен. Если есть доказательство (не предположение), что это не может быть правдой одновременно, пожалуйста, расскажите мне об этом.