深度学习语言模型的研究综述

摘要

[目的 /意义]深度学习语言模型是当前提高机器语言智能的主要方法之一，已成为数据资源自动处理分析与知识情报智能挖掘计算不可或缺的重要技术手段，但在图情领域利用其进行技术开发和应用服务仍存在着一些困难。本研究通过系统梳理与揭示深度学习语言模型的研究进展、技术原理与应用开发方法，以期为图书馆员及同行从业者深入理解与应用深度学习语言模型提供理论依据与方法路径。[方法 /过程]系统地调研和梳理了深度学习语言模型的产生背景、基础性特征表示算法、代表性应用开发工具，揭示其演化发展的动态历程及技术原理，分析各算法模型与开发工具的优缺点与适用性；深入地归纳总结了深度学习语言模型应用开发面临的挑战问题，提出两种拓展其应用能力的方法策略。[结果 /结论]深度学习语言模型应用开发面临的重要挑战包括参数繁多，精度难调；依赖于大量准确的训练数据，变化困难；可能引发知识产权和信息安全问题等。未来可考虑从面向特定领域和特征工程两方面入手以拓展和提升其应用能力。