Новая платформа искусственного интеллекта Chat GPT привлекла внимание своими впечатляющими ответами, но насколько они правдоподобны? Давайте исследуем темную сторону ChatGPT.
ChatGPT — это новый мощный чат-бот с искусственным интеллектом, который быстро впечатляет, но многие люди отмечают, что у него есть серьезные недостатки. Спросите его о чем угодно, и вы получите ответ, который звучит так, как будто он был написан человеком, изучившим его знания и навыки письма из огромного количества информации в Интернете.
Вот несколько серьезных проблем с инструментом ИИ!
1. ChatGPT не всегда подходит
Он не справляется с основами математики, не может ответить на простые логические вопросы и даже доходит до опровержения совершенно неверных фактов. Как могут подтвердить пользователи социальных сетей, ChatGPT может ошибаться более чем в одном случае.
OpenAI знает об этом ограничении, написав, что: ChatGPT иногда пишет правдоподобно звучащие, но неправильные или бессмысленные ответы. Эта галлюцинация фактов и вымыслов, как ее называют некоторые ученые, особенно опасна, когда речь идет о чем-то вроде медицинского совета.
В отличие от других помощников ИИ, таких как Siri или Alexa, Chat GPT не использует Интернет для поиска ответов. Вместо этого он строит предложение слово за словом, выбирая наиболее вероятный «токен», который должен быть следующим, на основе своего обучения.
Другими словами, ChatGPT приходит к ответу, делая серию догадок, что является одной из причин, по которой он может аргументировать неправильные ответы, как если бы они были полностью верны.
Хотя он отлично объясняет сложные концепции, что делает его мощным инструментом для обучения, важно не верить всему, что он говорит. ChatGPT не всегда корректен — по крайней мере, пока.
2. Предвзятость встроена в систему
ChatGPT был обучен коллективному письму людей по всему миру, в прошлом и настоящем. Это означает, что те же смещения, которые существуют в данных, также могут проявляться в модели.
Фактически, пользователи показали, как ChatGPT может давать ужасные ответы, некоторые из которых, например, дискриминируют женщин. Но это только верхушка айсберга; он может дать ответы, которые чрезвычайно вредны для ряда групп меньшинств.
Вина лежит не только в данных. Исследователи и разработчики OpenAI выбирают данные, которые используются для обучения ChatGPT. Чтобы помочь справиться с тем, что OpenAI называет «предвзятым поведением», он просит пользователей давать отзывы о плохих результатах.
Вы можете утверждать, что ChatGPT не должен был публиковаться, пока эти проблемы не будут изучены и решены, учитывая возможность причинения вреда людям.
Аналогичный чат-бот с искусственным интеллектом под названием Sparrow (принадлежащий материнской компании Google, Alphabet) был выпущен в сентябре 2022 года. Однако он оставался за закрытыми дверями из-за аналогичных опасений, что он может причинить вред.
Возможно, Мета тоже должна была возглавить предупреждение. Когда она выпустила Galactica, языковую модель ИИ, обученную на академических работах, она была быстро отозвана после того, как многие люди критиковали ее за вывод неверных и предвзятых результатов.
3. Вызов английскому языку в средней школе
Вы можете попросить ChatGPT проверить ваше письмо или указать, как улучшить абзац. Кроме того, вы можете полностью исключить себя из уравнения и попросить ChatGPT написать что-нибудь для вас.
Учителя экспериментировали с передачей заданий по английскому языку в ChatGPT и получали ответы, которые лучше, чем у многих их учеников. От написания сопроводительных писем до описания основных тем в известном литературном произведении ChatGPT может сделать это без колебаний.
Возникает вопрос: если ChatGPT сможет писать для нас, нужно ли будет студентам учиться писать в будущем? Это может показаться экзистенциальным вопросом, но когда учащиеся начнут использовать ChatGPT для написания своих эссе, школам придется быстро придумывать ответ. Быстрое внедрение ИИ в последние годы потрясет многие отрасли, и образование — лишь одна из них.
4. Это может нанести реальный вред
Ранее мы упоминали, как неверная информация ChatGPT может нанести реальный вред, причем наиболее очевидным примером является неверный медицинский совет.
Есть и другие опасения. Поддельные учетные записи в социальных сетях представляют собой огромную проблему в Интернете, и с появлением чат-ботов с искусственным интеллектом интернет-мошенничество станет проще. Еще одной проблемой является распространение ложной информации, особенно когда ChatGPT заставляет даже неправильные ответы звучать убедительно правильными.
Скорость, с которой ChatGPT может давать ответы, которые не всегда верны, уже вызвала проблемы для Stack Exchange, веб-сайта, на котором пользователи могут задавать вопросы и получать ответы.
Вскоре после его выпуска ответы ChatGPT были запрещены на сайте из-за того, что многие из них были неверными. Без достаточного количества людей-добровольцев для сортировки отставаний было бы невозможно поддерживать высокий уровень качества ответов, что нанесло бы ущерб веб-сайту.
5. OpenAI обладает всей мощью
С большой силой приходит большая ответственность, и OpenAI обладает большой властью. Это одна из первых компаний в области искусственного интеллекта, которая действительно потрясла мир не одной, а несколькими моделями искусственного интеллекта, включая Dall-E 2, GPT-3, а теперь и ChatGPT.
OpenAI выбирает, какие данные использовать для обучения ChatGPT и как он справляется с негативными последствиями. Согласны мы с методами или нет, но он продолжит развивать эту технологию в соответствии со своими целями.
Хотя OpenAI считает безопасность своим высоким приоритетом, мы многого не знаем о том, как создаются модели. Считаете ли вы, что исходный код следует сделать открытым, или соглашаетесь с тем, что некоторые его части должны храниться в секрете, мы мало что можем с этим поделать.
В конце концов, все, что мы можем сделать, — это верить, что OpenAI будет ответственно исследовать, разрабатывать и использовать ChatGPT. В качестве альтернативы мы можем выступать за то, чтобы больше людей имели право голоса, в каком направлении должен двигаться ИИ, делясь мощью ИИ с людьми, которые будут его использовать.
Если вам интересно, что еще разработал OpenAI, ознакомьтесь с нашими статьями как использовать Dall-E 2 и как использовать GPT-3.
