基于数据增强技术的藏汉机器翻译方法研究.pdf

摘要

摘要

机器翻译是指将一种人文语言(源语言)通过计算机转换为另一

种人文语言目标语言的过程，属于自然语言处理中重要领域之一。()

随着时代发展和科技进步，机器翻译得到了快速发展。对于资源丰富

的语言来说，神经机器翻译的性能已经达到了很好的效果，但对于资

源匮乏的低资源藏汉神经机器翻译主要面临着起步晚，平行语料库匮

乏的问题。因此针对藏汉机器翻译中平行语料匮乏问题，本文主要通

过使用数据增强技术来提高藏汉机器翻译模型性能。主要贡献如下：

1

（）针对低资源语言的机器翻译效果提升问题，本文提出了

XLM-R藏汉双语机器翻译模型。

（2）通过同义词替换技术构建藏汉伪平行语料库。首先在中文

端句子中挑选出低于一定频次的低频词，然后通过word2vec词向量

相似度计算得到低频词的同义词并替换原词生成候选目标句，最后再

利用KenLM模型对生成的句子进行打分筛选形成最终的藏汉伪平行

语料。经实验，同义词替换在Transformer实验中BLEU值最高提升

了0.61，在XLM-R实验中BLEU值最高提升了0.58。

（3）通过三种不同的回译方法构建藏汉伪平行语料库。经实验，

TransformerXLM-R

传统回译方法在、实验中性能提升效果并不太明

显；但交替训练的回译方法在Transformer实验中BLEU值最高提升

了1.57，在XLM-R实验中BLEU值最高提升了1.44；迭代回译方法

在Transformer实验中BLEU值最高提升了1.38，在XLM-R实验中

I

西藏大学硕士学位论文

BLEU值最高提升了1.17。

（4）通过双向训练技术构建藏汉伪平行语料库。首先以“藏语-

-+-

汉语”→“藏语汉语汉语藏语”的数据形式重构数据集，然后在

该数据集上进行藏汉机器翻译的预训练，最后在重构前的数据集上进

行正常方向的训练。经实验，双向训练技术在Transformer实验中

BLEU0.86XLM-RBLEU0.83

值最高提升了，在实验中值最高提升了。

关键词：低资源语言，藏汉机器翻译，Transformer模型，XLM-R模

型，数据增强技术

II

ABSTRACT

ABSTRACT

Machinetranslationreferstotheprocessofconvertingahuman

language(sourcelanguage)intoanotherhumanlanguage(targetlanguage)

bycomputer,andbelongstooneoftheimportantfieldsinnatural

languageprocessing.Withthedevelopmentofthetimesand

technologicalprogress,machinetranslationhasbeendevelopedrapidly.

Forresource-richlanguages,theperformanceofneuralmachine

translationhasachievedgoodresults,butforlow-resource

Tibetan-Chineseneuralmachinetranslation,whichisresource-poor,it

mainlyfac