Привет всем,
Как вы, возможно, знаете меня или читали мои статьи в прошлом (ранее на https://medium.com/@draganil), включая другие источники блогов, меня зовут Драган Илиевски и Я занимаюсь кибербезопасностью более 10 лет и владею Pentestiverse, онлайн-платформой, которая позволяет обучать пентестеров и предоставляет безопасность как услугу. Это мой сайд-проект, над которым я работаю в свободное время.

Я решил продолжать писать все свои новые статьи отдельно в разделе Pentestiverse, так как мои подписчики и энтузиасты обычно задают вопросы именно там. Я хочу поделиться своими знаниями и опытом в письменной форме, так как это действительно удобно.

Прошло много времени с тех пор, как я публиковал что-то новое, но, поскольку многим из моих подписчиков было интересно услышать мое собственное мнение о ChatGPT, в этой статье я собираюсь обсудить это.

То, что OpenAI сделал с ChatGPT, и то, как этот ИИ на основе чат-ботов, безусловно, впечатляет, побудило многие другие отрасли творчески выражать свои мысли и внедрять инновации во многие производные, а также использовать инструмент для повышения производительности. Однако у некоторых из моих подписчиков были некоторые опасения, поэтому они спросили меня следующее:

В: Заменит ли ChatGPT рабочие места или сделает людей одноразовыми в будущем?
О: Лично я не верю, что ChatGPT полностью заменит людей, потому что этот инструмент еще не способен критически мыслить и принимать решения, основанные на опыте. Основная цель этих инструментов — предложить больше инноваций, творчества и производительности. С этим будет более или менее решена одна из самых больших мировых проблем, поскольку теперь мы можем вводить удобные для человека входные данные и получать дедуктивные, удобные для человека выходные данные, которые обычно содержат конкретную информацию, которая нам понадобится для решения какой-либо задачи, дилеммы. в жизни, и именно так он обеспечивает нам продуктивность, креативность и эффективность во всем.

Лично я считаю, что ChatGPT может заменить некоторые вещи, которые легко автоматизировать, но это также сделает экспертов более дорогими на рынке, поскольку теперь они будут иметь более высокую производительность, конкретную информацию, что означает: если я я могу делать больше вещей за меньшее время, я делаю больше, поэтому мне также нужно больше зарабатывать. Со стороны этического хакерства и всех подобных ИТ-позиций мы в полной безопасности, потому что ни один ИИ не может думать так, как мы.

В: Можно ли обойти ограничения ChatGPT?

О: К сожалению, да, это называется оперативной инъекцией. Из соображений безопасности я не буду подробно объяснять, как это работает, но каждая система, основанная на моделях чата ИИ, более или менее уязвима для некоторых инъекций, которые могут обойти ограничение и предоставить информация, которая может быть вредоносной или даже опасной. Тем не менее, я считаю, что команды OpenAI очень усердно работают над установлением правильных границ, потому что они хотят, чтобы мы предоставляли правильную и безопасную информацию и защищали человечество от информации, которая наносит вред или не должна быть общедоступной.

В: Как вы думаете, разработчики ChatGPT читают наши разговоры в чате?

О: Конечно! Я думаю, что в приложении было заявление об отказе от ответственности, которое информировало вас о том, что вы не должны использовать личные данные, потому что модераторы могут прочитать разговор в чате.

Но им НЕОБХОДИМО прочитать их только потому, что им нужно установить новые границы и подвергнуть цензуре некоторые ответы, а также внести коррективы и улучшения. Я считаю, что со временем ChatGPT станет более точным и зрелым, чтобы с ним можно было безопасно взаимодействовать, и это самое близкое, что мы получили при имитации сознания.

Вопрос Можно ли взаимодействовать с ChatGPT через API?

О: Я лично пробовал это, конечно, его можно очень легко интегрировать, но я думаю, что это будет платная услуга.

Вопрос Сможет ли OpenAI использовать приложение без ограничений?

О: С моей точки зрения, логично предположить, что это их продукт, и они смогут использовать его неограниченно, потому что именно они устанавливают границы в первую очередь. Обученная модель основана на GPT, обычно она использует da-vinci, а также может содержать много конфиденциальной информации, но эта информация также может быть неверной или вводящей в заблуждение.

Проблема с проверкой фактов и валидацией по-прежнему существует даже для разработчиков OpenAI, поэтому им нужно ограничить доступ общественности к потенциально неверной информации. Как? С установкой ограничений и некоторой цензурой или переопределением ответов, чтобы они были более объективными, а не субъективными.

На веб-сайте OpenAI они объясняют, что они сделали:

We trained this model using Reinforcement Learning from Human Feedback (RLHF), using the same methods as InstructGPT, but with slight differences in the data collection setup. We trained an initial model using supervised fine-tuning: human AI trainers provided conversations in which they played both sides—the user and an AI assistant. We gave the trainers access to model-written suggestions to help them compose their responses. We mixed this new dialogue dataset with the InstructGPT dataset, which we transformed into a dialogue format.

В: Может ли ChatGPT проконсультировать меня, чему научиться, если я хочу стать этичным хакером?

О: Вы должны попробовать! Это конечно не просто, но оно того стоит. Вот каков был ответ в моем случае:

Вывод: ChatGPT и подобные технологии изменят представление о том, как информация будет запрашиваться, потребляться и использоваться в нашем мире. Я до сих пор не уверен, хорошо это или плохо, так как наш мир уже в некотором роде запутан.

Самый большой вопрос: будут ли эти технологии чат-ботов способствовать совершенствованию человека, централизованному обучению, производительности, творчеству и эволюции, или они сделают человечество зависимым от определенного источника информации, поэтому люди перегружены информацией и их мозг больше не способен к собственному критическому мышлению и уникальным мыслям, творчеству или инновациям? Мы должны быть осторожны с тем, что заменит ChatGPT в нашей жизни.

Я всегда буду поддерживать тех, кто использует свои мозги, талант старой школы и амбиции, и имеет свое собственное отношение, в то время как использование ChatGPT может быть использовано в качестве стороннего консультанта, который может предложить некоторые решения или помочь в некоторых тяжелых случаях. -лифтинг с информацией.

Спасибо за ваше время!

Скоро появятся новые статьи! Береги себя.
Драган