一种基于深度神经网络的中文语言处理模型及方法

摘要

本发明公开了一种基于深度神经网络的中文语言处理模型及方法，包括语义编码网络，词性分析网络和语义解码网络三部分，其中语义编码网络、词性分析网络通过注意力网络和语义解码网络进行连接。语义编码网络和词性分析网络首先对源文本生成的词向量进行处理，语义编码网络输出源文本的语义信息向量，词性分析网络输出源文本的词性信息向量，将语义信息向量和词性信息向量进行concat()连接，作为注意力网络的输入，注意力网络根据输入的信息生成包含源文本所有信息的背景向量，作为语义解码网络的输入；语义解码网络根据背景向量计算得到所有候选词的概率分布，根据概率分布逐个输出目标文本的每个元素。提升了文本映射的准确性，和系统性能。