Превращение моей идеи в продукт
Использование JavaScript для написания приложения с поддержкой LLM звучит безумно, не так ли? В использовании JavaScript по сравнению с Python действительно есть преимущества для приложений, которые сильно зависят от внешних API и библиотек, таких как LangChain. В традиционной модели веб-приложений вам необходимо разработать интерфейс HTML/CSS/JS и серверную часть на предпочитаемом вами серверном языке. Однако с появлением библиотек JavaScript для обработки LLM, таких как LangChain и js-tiktoken, теперь вы можете создавать приложения с поддержкой ИИ без внутреннего слоя.
Чтобы быть объективным, выбор полностью клиентского подхода ограничивает ваши возможности. Однако при объединении полностью клиентского приложения с надежной настольной средой Электрон многие из этих ограничений снимаются. Electron позволяет упаковать ваше внешнее веб-приложение как кроссплатформенное настольное приложение, которое можно публиковать в различных магазинах приложений для разных платформ.
Функции, обычно ожидаемые в веб-приложении, такие как управление учетными записями, становятся необязательными в настольном пространстве. Кроме того, вы получите доступ к собственным плагинам для взаимодействия с основной операционной системой, что позволит вам расширить свое приложение за пределы обычного веб-приложения.
В этой статье мы рассмотрим процесс перехода от экспериментальной (POC) реализации JavaScript приложения, поддерживаемого LLM, к полноценному рабочему столу. Код, обсуждаемый в этой статье, является открытым исходным кодом и распространяется под лицензией MIT, поэтому не стесняйтесь использовать его или, что еще лучше, разветвляйте его и вносите любые усовершенствования и улучшения, которые вы можете придумать.
Зарождение этой идеи произошло, когда я устал вручную копировать и вставлять свои статьи в ChatGPT для редактирования. Ранее работая с LangChain в Python, я попытался создать простое одностраничное приложение Reac, которое могло бы брать текст из ввода и обрабатывать его через LangChain в JS, возвращая отредактированный текст. API для LangChain замечательно…
