基于外部记忆单元和语义角色知识的文本复述判别模型

摘要

文本复述判别是一个重要的句子级语义理解应用.本文提出了一个轻量级的基于记忆单元的单层循环神经网络模型,并结合语义角色标注知识帮助进行英文文本复述判别.我们使用单层的循环网络模型减缓由于网络层数过多加重的梯度消失和梯度爆炸问题,易于训练.并且利用外部记忆单元和语义角色知识帮助存储两句话中不同层级的语义联系.我们的模型在英文评测语料Microsoft Research Paraphrase Corpus测试集上F值为84.3％.实验表明,语义角色标注知识确实可以帮助文本复述判别,并且我们的轻量级模型达到了同多层次网络模型相近的效果.