基于跨语言双语预训练及Bi-LSTM的汉-越平行句对抽取方法

摘要

本发明涉及跨语言双语预训练及Bi‑LSTM汉‑越平行句对抽取方法，属于自然语言技术领域。本发明首先收集汉越可比语料，从可比语料中抽取汉越平行句对。然后在预训练中需要一个汉越种子词典及大量汉越单语，通过将汉越双语映射到公共语义空间进行词对齐，再利用汉越种子词典通过自学习的方式迭代地生成新词典，从而最大化表示汉越句子间语义相似性。然后将预训练后得到的汉语和越南语句子输入到一个由Bi‑LSTM和CNN组成的孪生神经网络，分别提取到句子的全局特征和局部特征。最后用全连接层来判断输入的句对是否为汉越双语平行句对。本发明在从可比语料中抽取平行句对的实验取得了好的效果。