Меня интересует НЛП, и я придумал Tensorflow и Bert, оба, похоже, из Google, и оба кажутся лучшими для анализа настроений на сегодняшний день, но я не понимаю, что именно они и в чем разница между ними ... Может кто-нибудь объяснить?
Tensorflow и Берт. Что они собой представляют и в чем разница между ними?
Ответы (2)
Tensorflow - это библиотека с открытым исходным кодом для машинного обучения, которая позволит вам построить модель / архитектуру глубокого обучения. Но BERT сама по себе является одной из архитектур. Вы можете построить множество моделей с помощью TensorFlow, включая RNN, LSTM и даже BERT. Преобразователи, такие как BERT, являются хорошим выбором, если вы просто хотите развернуть модель на своих данных и не заботитесь о самой области глубокого обучения. Для этой цели я рекомендовал библиотеку HuggingFace, которая обеспечивает простой способ использования модели преобразователя. всего в нескольких строках кода. Но если вы хотите глубже изучить эти модели, я предлагаю вам узнать об известных архитектурах глубокого обучения для текстовых данных, таких как RNN, LSTM, < em> CNN и т. д. и попробуйте реализовать их с помощью библиотеки машинного обучения, например Tensorflow или PyTorch.
person
Parsa Abbasi
schedule
02.05.2021
Bert и Tensorflow - это не разные вещи. Существует не только 2, но и множество реализаций BERT. Большинство из них в основном эквивалентны.
Вы упомянули следующие реализации:
Исходный код от Google в Tensorflow. https://github.com/google-research/bert Реализация с помощью Huggingface в Pytorch и Tensorflow, который воспроизводит те же результаты, что и исходная реализация, и использует те же контрольные точки, что и исходная статья BERT. https://github.com/huggingface/transformers Это различия, касающиеся различных аспектов:
Что касается результатов, нет никакой разницы в использовании того или другого, поскольку они оба используют одни и те же контрольные точки (одинаковые веса), и их результаты были проверены на равенство. С точки зрения возможности повторного использования, библиотека HuggingFace, вероятно, более пригодна для повторного использования, поскольку она разработана специально для этого. Кроме того, это дает вам свободу выбора TensorFlow или Pytorch в качестве фреймворка для глубокого обучения. По производительности они должны быть одинаковыми. С точки зрения поддержки сообщества (например, задавая вопросы о них в github или stackoverflow), лучше подходит библиотека HuggingFace, так как ею пользуется много людей. Помимо BERT, библиотека трансформаторов от HuggingFace имеет реализации для множества моделей: OpenAI GPT-2, RoBERTa, ELECTRA, ...
person
shrey patel
schedule
02.05.2021
