В то время как предварительно обученные модели больших языков продолжают добиваться значительных успехов в задачах обработки естественного языка (NLP), эти модели, как правило, сосредоточены на английском и других популярных международных языках из-за их широкого использования и огромного количества одноязычных или параллельных текстов, доступных в…