一种基于多任务学习机制的自然语言关系抽取方法

摘要

本发明公开了一种基于多任务学习机制的自然语言关系抽取方法，包括如下步骤：利用多个辅助任务来引入不同任务间所互相隐含的信息来提升关系抽取的效果。引入知识蒸馏来增强辅助任务指导训练多任务模型的效果，为基于多任务学习的关系和抽取引入教师退火算法让多任务模型的效果能够超远作为指导任务的单任务模型，最终提升关系抽取的准确度。该方法首先在不同的辅助任务上进行训练得到用于指导训练的多任务模型，然后利用辅助任务学习到的模型和真实标签作为监督信息同时指导多任务模型的学习，最后在SemEval2010 task‑8数据集上进行了测评，该模型的表现优于单独使用改进过的BERT进行关系抽取的模型，也同样优于主流的基于深度学习关系抽取的模型。