基于关键信息选择和变分潜在变量建模的文本摘要生成法

摘要

本发明提供一种基于关键信息选择和变分潜在变量建模的文本摘要生成法，该方法在编码器和解码器之间设置关键信息选择网络，控制编码器和解码器之间信息流的传递，达到选择核心的关键信息，提高编码器效率，并且过滤掉冗余信息，减轻解码器负担。同时，关键信息选择网络选择出对生成摘要核心的关键信息，以提高注意力的权重，减轻生成摘要的词语重复问题以及缓解未登录词问题，大幅提高了生成摘要的质量。利用VAE对变分潜在变量建模，获取摘要句子深层次潜在特征。通过在KL散度项之前加一个超参数系数β对VAE损失函数进行再平衡，消除VAE在训练过程中KL散度项消失，有效防止VAE网络退化，使得模型生成更精确的摘要。