DeBERTa от Microsoft (BERT с улучшенным декодированием и распутанным вниманием) считается следующим поколением моделей преобразования собственного внимания в стиле BERT, которые превзошли человеческие возможности в задачах обработки естественного языка (NLP) и возглавили…