Как построить Chabot с GPT-3

Как построить Chabot с GPT-3

И какие инструменты есть в вашем распоряжении…

Введение

Есть что-то невероятно впечатляющее в создании диалогового агента, также известного как чат-бот, всего с несколькими строками кода через Python или CURL. И единственные данные для обучения - это пара предложений о личности и тоне чат-бота, и ничего больше.

Во время разговора с чат-ботом OpenAI не будет запасных вариантов, и вы можете отвлечься, и разговор не застанет двусмысленность. Также для новичка возникает чувство достижения от мысли, что они создали чат-бота. Генерация естественного языка (NLG) наравне с человеческим разговором; нет того непривычного ощущения, которое обычно ассоциируется с NLG.

Поскольку OpenAI сделал обработку текста доступной с помощью GPT-3, был задан вопрос, является ли это окончательным и единственным интерфейсом, который вам когда-либо понадобится для создания диалогового интерфейса AI, или чат-бот?

Зачем все еще возиться с другими фреймворками и средами?

Да, есть случаи, когда GPT-3 можно использовать в автономном режиме. Например; чат-бот с изменяемым настроением, веселый и саркастичный чат-бот, друг, например, чат-бот и т. д.

Однако в настоящее время возможности GPT-3 для поддержки проектов тонкой настройки минимальны.

GPT-3 работает над созданием самообслуживания конечной точки точной настройки, которая сделает эту функцию доступной для всех пользователей, но конкретные сроки недоступны.

На данный момент в большинстве производственных и корпоративных реализаций GPT-3 будет играть роль поддержки… но давайте посмотрим, в каких расширениях API OpenAI можно обучить и адаптировать с помощью специальной информации.

Базовый разговорный чат-бот GPT-3

Этот интерфейс принимает приглашение ввода от пользователя, а модель возвращает одно или несколько прогнозируемых завершений или ответов. К этому добавлен возможный дополнительный вопрос. Этот возможный дополнительный вопрос можно задать пользователю в виде: вы также можете узнать о…

Human: Human: What is a compiler?
AI: A compiler is a computer program that translates source code written in a programming language into another computer language.
Human: What is the purpose of a compiler?

Получив приглашение, модель вернет одно или несколько прогнозируемых завершений, а также может вернуть вероятности альтернативных токенов в каждой позиции.

Изображение выше - это отрывок с игровой площадки с показанным описанием бота и разговором, который у меня был с ботом. Также можно подробно описать личность бота, например:

«Эрик - чат-бот, который неохотно отвечает на вопросы».

В качестве более практичного и технического примера здесь показан помощник AI в записной книжке, написанной на Python. Вам нужно будет выполнить команду:

pip install openai

Отсюда вы можете начать свой код Python с:

import os
import openai

Как видите, чат-бот состоит из 17 строк кода.

Положительные

Здесь демонстрируется несколько действительно особых возможностей, которые можно легко упустить.

Есть несколько элементов, в которых GPT-3 ориентирован на будущее. К ним относится использование NLG. Они также используют реализацию сквозного обучения, также называемую отказом от намерения или бессмысленной реализацией. Сущности также управляются без проблем.

• Общий естественный язык (NLG) великолепен; Часто у NLG есть что-то незнакомое. Только не с GPT-3. Неудивительно, что API превосходно справляется с написанием копий, резюмированием и другими задачами обработки текста.
• Нет никакого запасного распространения, интерфейс чат-бота остается на ногах и отвечает различными ответами, чтобы продвинуть диалог вперед.
• Нет никаких препятствий для отступления.
• Вроде бы контекст поддерживается достаточно хорошо.
• Неоднозначный ввод также обрабатывается хорошо.

Не очень положительные

GPT-3 не является платформой для разработки чат-ботов. В настоящее время не существует точной настройки для таких элементов, как:

• Политики
• Заполнение слотов / Формы
• Управление диалогом
• Большие наборы обучающих данных
• Извлечение намерений и сущностей

В связи с авангардным характером GPT-3 будет интересно посмотреть, как OpenAI представит меры для управления диалогами или точную настройку чат-бота с помощью обучающих данных и т. Д.

Как упоминалось в предыдущей статье, GPT-3 имеет несколько API, которые хорошо подходят для расширения и поддержки существующей реализации чат-бота. Диалоговый API GPT-3 идеально подходит для общего разговора, вопросов и ответов, ботов для дружбы и т. Д.

Но он не соответствует требованиям корпоративного чат-бота для конкретного домена.

Настройка чат-бота GPT-3

Некоторые настройки возможны через API, но есть ограничения. Вот некоторые из функций, доступных для использования ваших собственных данных.

Эти варианты могут помочь понять, что нас ждет впереди GPT-3.

Создать классификацию

В коде Python вы можете увидеть запрос:

query="It seems like I first need to go slower and make sure :(",

Вместе с запросом предоставляются помеченные примеры:

examples=[
["You can drive cross the intersection.", "Green"],
["Go slower to check the intersection", "Orange"],
["You must stop at the intersection..", "Red"]
],

Учитывая запрос и набор помеченных примеров, модель предсказывает наиболее вероятную метку для запроса. Это может служить для классификации текста или обозначения предложений.

Что интересно, в запрос включены данные примера. Сначала я думал, что такой же подход был бы использован в IBM Watson. Где вы отправляете данные обучения, а затем ссылаетесь на них из запроса с идентификатором.

Создавайте ответы на вопросы

Отвечает на заданный вопрос, используя предоставленные документы и примеры.

API сначала ищет загруженные документы или файлы, чтобы найти соответствующий контекст. Соответствующий контекст сочетается с предоставленными примерами и вопросами, чтобы создать подсказку для завершения.

Второй запрос, основанный на том же вводе.

Создать поиск

Конечная точка поиска вычисляет оценки сходства между предоставленным запросом и документами. Документы можно передавать прямо в API.

В списке указаны три континента и город. Континент, которому принадлежит город, возвращается.

Вывод

В GPT-3 есть умопомрачительные элементы, задачи, связанные с текстом, очень полезны; обобщение, упрощение, тематика, извлечение ключевых слов и т. д.

Разговаривать с API чат-бота - это нереально. NLG и контекстная осведомленность поразительны. Проблема начинается только тогда, когда вы начинаете думать о создании корпоративного решения для конкретной предметной области, а также о масштабировании и абстракции.