NLP

摘要： The entry into a hyper-connected society increases the generalization of communication using SNS.Therefore,research to analyze big data accumulated in SNS and extractmeaningful information is being conducted in various fields.In particular,with the recent development of Deep Learning,the performance is rapidly improving by applying it to the field of Natural Language Processing,which is a language understanding technology to obtain accurate contextual information.In this paper,when a chatbot system is applied to the healthcare domain for counseling about diseases,the performance of NLP integrated withmachine learning for the accurate classification ofmedical subjects from text-based health counseling data becomes important.Among the various algorithms,the performance of Bidirectional Encoder Representations from Transformers was compared with other algorithms of CNN,RNN,LSTM,and GRU.For this purpose,the health counseling data of Naver Q&A service were crawled as a dataset.KoBERT was used to classify medical subjects according to symptoms and the accuracy of classification results was measured.The simulation results show that KoBERTmodel performed high performance by more than 5%and close to 18%as large as the smallest.

摘要： 文章主要阐述了自然语言处理的基础技术。首先,文章介绍了藏汉两种文字自然语言处理(NLP)技术的发展历程;其次,文章比较了藏汉两种语言的字,词、句和篇章等层面的信息处理方法的差异性,试图探索和挖掘跨语种的自然语言处理之间的语法特点,从而选取符合语法特征的自然语言处理方法,做到因语施策。

摘要： 文章以IT高水平专业群建设为例,通过自然语言处理(NLP)对IT产业岗位需求进行了大数据分析,依次采用DBSCAN聚类和LDA概率主题模型,分析得到了4类岗位簇与5个技能模块关系矩阵。文章采用LTP依存句法提取岗位簇技能、知识、素质模块,进一步为厘清高水平专业群组群逻辑、完善人才培养模式、增强职业技术教育适应性提供了技术支持。

摘要： 深度学习技术的发展使得基于深度神经网络的方法成为自然语言处理(Natural Language Processing,NLP)领域的一种新解决思路。虽然神经网络技术能够有效提升生成文本的质量,但是生成文本的内容很容易偏离作者原本要表达的语义。笔者按照人们的写作习惯,即先构思出各部分的主题再进行写作的方式,提出基于交叉项编码的关键词主题控制文本生成模型。与其他模型相比,该模型生成的句子不仅在双语互译质量评估(Bilingual Evaluation Understudy,BLEU)中的得分更高,Correlation值也要高于其他模型。

摘要： BERT是谷歌AI团队近年来新发布的自然语言预训练模型,在11种不同的NLP测试中创出最佳成绩,被认为是NLP领域中里程碑式的进步,因此利用BERT进行文本情感分析是一个很热门的研究方向,该文中水利舆情分析主要是对水利新闻进行情感分析。该文对基于词典、机器学习和深度学习的情感分类技术进行了分析,并提出了基于完整句分割的BERT-BiLSTM水利新闻文本情感分类模型。该课题可以为水利行业从业人员和其他领域的情感分类研究提供较高的指导意义。

摘要： 针对某公司基于风险防控的内控合规体系数字化、智能化程度不足的问题,探索利用NLP技术,构建面向项目的内控合规的风险指标体系,搭建风险评级智能化模型,并通过机器学习逐步完善及应用,最终推动了某公司内控合规体系清晰、透明、高效运作,实现内控合规风险数字化智能化管控。

摘要： 在软件功能开发过程中,会存在待开发功能在市面上已存在或者有相似的情况,为了节省开发成本,程序员普遍会选择用代码复用的方式解决项目"冷启动"问题,这也降低了开发成本。换言之,代码复用已经逐渐变成行业所接受的开发模式。但其中仍然存在诸多问题和安全隐患,如恶意软件代码、缺失许可认证等,所以代码安全监测是软件安全发展的重要手段。文章基于复用代码监测,从代码之间语义特征角度出发,设计了一种精准的袪码特征提取算法,并在此基础上实现二进制代码复用检测。实验结果表明,二进制工业软件溯源方法可以完成代码复用检测工作,并且在文件级、函数级维度都体现出良好的准确性。

摘要： 近年来,Transformer已经成为自然语言处理之中一个新兴的热门研究领域,越来越多的研究人员加入这项技术研究中,提出了很多具有一定突破的方法。将对相关技术进行总结,介绍原理和特征提取方法,此外,针对新兴研究方向进行介绍和展望。

摘要： Spam mail classification considered complex and error-prone task in the distributed computing environment.There are various available spam mail classification approaches such as the naive Bayesian classifier,logistic regression and support vector machine and decision tree,recursive neural network,and long short-term memory algorithms.However,they do not consider the document when analyzing spam mail content.These approaches use the bagof-words method,which analyzes a large amount of text data and classifies features with the help of term frequency-inverse document frequency.Because there are many words in a document,these approaches consume a massive amount of resources and become infeasible when performing classification on multiple associated mail documents together.Thus,spam mail is not classified fully,and these approaches remain with loopholes.Thus,we propose a term frequency topic inverse document frequency model that considers the meaning of text data in a larger semantic unit by applying weights based on the document’s topic.Moreover,the proposed approach reduces the scarcity problem through a frequency topic-inverse document frequency in singular value decomposition model.Our proposed approach also reduces the dimensionality,which ultimately increases the strength of document classification.Experimental evaluations show that the proposed approach classifies spam mail documents with higher accuracy using individual document-independent processing computation.Comparative evaluations show that the proposed approach performs better than the logistic regression model in the distributed computing environment,with higher document word frequencies of 97.05%,99.17%and 96.59%.

摘要： Purpose-Neural network(NN)-based deep learning(DL)approach is considered for sentiment analysis(SA)by incorporating convolutional neural network(CNN),bi-directional long short-term memory(Bi-LSTM)and attention methods.Unlike the conventional supervised machine learning natural language processing algorithms,the authors have used unsupervised deep learning algorithms.Design/methodology/approach-The method presented for sentiment analysis is designed using CNN,Bi-LSTM and the attention mechanism.Word2vec word embedding is used for natural language processing(NLP).The discussed approach is designed for sentence-level SA which consists of one embedding layer,two convolutional layers with max-pooling,oneLSTMlayer and two fully connected(FC)layers.Overall the system training time is 30 min.Findings-The method performance is analyzed using metrics like precision,recall,F1 score,and accuracy.CNN is helped to reduce the complexity and Bi-LSTM is helped to process the long sequence input text.Originality/value-The attention mechanism is adopted to decide the significance of every hidden state and give a weighted sum of all the features fed as input.

摘要： 本发明涉及一种用于通过非线性预编码器(21)来联合处理将在多个订户线路(L1至L4)中的相应订户线路上传输的信号(U)的方法。该非线性预编码器包括第一非线性预编码级(301；301')、随后是第二线性预编码级(302；302')，第一非线性预编码级(301；301')被配置为根据第一三角预编码矩阵(L；M；N)操作并且包括模单元(Γ；γ)，第二线性预编码级(302；302')被配置为根据第二预编码矩阵(Q；P)操作。根据本发明的实施例，该方法包括：将该多个订户线路组织为第一组订户线路(GA)和第二组订户线路(GB)，第一组订户线路至少包括该多个订户线路中的不支持非线性预编码操作的订户线路(L2；L4)，并且第二组订户线路包括该多个订户线路中的剩余订户线路(L1；L3)；缩放将在第一组订户线路中的相应订户线路上传输的第一信号(UA)以限制模单元的输入处的相应的中间传输功率水平并进一步绕过模单元的运算或使其无效；以及通过第一和第二预编码级来处理如此被缩放的第一信号(UA')和将在第二组订户线路中的相应订户线路上传输的第二信号(UB)。本发明还涉及一种非线性预编码器(21)。

摘要： 本发明公开了一种基于NLP技术的暖通末端设备维修保养作业自动派单方法，属于民用建筑机电智能化运维技术领域。本发明的一种基于NLP技术的暖通末端设备维修保养作业自动派单方法，从源系统抽取暖通末端设备维修和保养的工单数据集，依据中文分词器配置设定进行维保文本内容的中文分词工作。为解决人工工单分配模式，由于受到工作时间限制无法做到全覆盖响应用户报修信息，影响暖通末端设备处置及时性的问题，通过训练和调试完成暖通末端设备维修和保养故障分类自动标注单元，制作暖通末端设备维修和保养工单的故障自动识别装置，并在此基础上构建暖通末端设备故障处理决策表通过机器学习方式实现暖通末端设备维保工单的自动分配。

摘要： 本发明公开了一种基于NLP技术的刑事案件证据指引方法，包括进行案件类别判断；具体为在提高简要案情分词准确率的基础上，使用NLP技术中的文本分类算法对案件进行类别预测，以提高案件类别判断的准确率；推荐引擎收集案件信息；产生案件证据搜集内容的推荐结果；任务流加载推荐结果，形成待办任务。本发明通过提供一种将人工智能推荐引擎与任务流相结合的方法，利用自动推荐对案件取证过程取证方法以及取证任务流进行结合，用于解决传统方式依靠经验、手工记录搜集刑事案件证据中存在的失误，导致案件被检察院退回进行补充侦查，或者由于失误造成的证据不足减刑甚至免于起诉的情况，能有效提高公安机关在刑事案件侦查中的办案效率和最终的起诉率。

摘要： 本发明公开了一种针对NLP模型的轻量且高隐蔽性的黑盒攻击方法。本发明步骤：1、依据受害样本集、目标模型、分类标签、攻击比率调用词重要性计算算法，确定受害词；2、依据受害词、词的历史信息表、分类标签、候选词表预算，调用构建候选词表算法，确定受害词的候选词表候选词表；3、计算受害词和对应候选词在受害文本中的置信度分数差值，更新该受害词的历史信息表；同时调用文本相似函数和置信度分数计算算法，确定对抗样本。本发明通过优化改进词转换阶段的方法，同时使用历史攻击信息并进行统计检验，减小候选词表的大小，从而降低目标模型查询词袋的次数，增强攻击的隐蔽性，降低安全系统检测风险。

摘要： 本发明公开了一种与NLP语言管理平台融合的物联网管理平台，包括物联网服务器，物联网服务器与智能设备端电联，智能设备中接入业务系统，管理平台接入智能设备，业务系统和管理平台接入管理页面，智能设备和管理平台接入人工客服，NLP平台接入应用。利用物联网系统，具有层次简单、反应速度快、数据维护简单和并利用NLP语言管理平台进行支持，相比其他物联网系统，可以进行数据获取，数据分析速度快，并且可以自行学习，自动清理无用数据等特点，通过所述物联网系统及构建方法企业可以构建属于自己的物联网系统，用以接入企业实际使用想接入的设备，实现产品物联网化，有效的为企业、合作伙伴以及个人提供端到端智能服务解决方案。

摘要： 本发明公开了一种基于NLP的敏感语句判断方法及系统，方法包括：S01、获取敏感语句数据，对其进行标注处理后，构建形成敏感语句训练集和验证集；S02、对敏感语句训练集中的语句进行扩增处理，获得增强数据集；S03、构建神经网络模型，将增强数据集和验证集导入神经网络模型中进行训练，直至模型收敛后，获得所需的检测神经网络；S04、将所需判断的语句导入检测神经网络中，由检测神经网络输出所导入语句的敏感判断结果和敏感类别；本方案实施可靠、响应迅速，反馈结果参考性佳。

摘要： 本发明公开了一种基于NLP技术的多源POI融合方法、装置及可读存储介质，所述方法包括预处理步骤、融合组确定步骤、数据融合步骤，本发明结合地物分类特点和格网计算法，优化后的范围计算提升了算法的性能、效率和准确率；对于非空间属性相似度的计算对分类相似度进行了优化，而且还考虑了同名不同类别的情况，基于NLP算法进行等级切分、地址规范化，基于地址各级别相似度获取POI之间的地址相似度，基于位置提高融合结果精确率；距离相似度分地物类别计算相似度；进一步地，分类采用NLP技术，优化了算法对于POI数据类别缺失或不明确的清洗，对分类进行预测来填充或修正，并将分类引入到范围搜索计算和相似度计算中。

摘要： 本发明提供了一种基于OCR和NLP技术的交易背景真实性审核方法和系统，包括：步骤1：通过接口向交易系统请求业务的应收账款信息数据，在获取数据后将数据整合为待校验数据格式；步骤2：通过影像平台获取该业务的影像资料列表；步骤3：基于OCR和NLP技术，根据影像的唯一编号进行影像识别，根据预设关键要素字段抓取对应的信息，得到待校验数据；步骤4：根据不同的业务场景、文档类型、指标类型构建比对规则，对待校验数据进行真实性校验，生成辅助审核的校验报告。本发明将智能影像识别、校验技术引入贸金融资交易背景真实性审核，具有识别准确率高、耗时短的特点，且能有效防止人为审核失误，有效节省人力资源成本。

摘要： 本发明公开了一种基于NLP技术和机器学习算法的基金经理推荐方法，推荐方法包括以下步骤S1、获取近六个月基金经理因子评价综合数据较高的名单合集；S2、通过与客户的对话，使用NLP技术展现不同基金经理的各项文本数据，并进行词义标签化和分析；S3、通过数学建模展现不同基金经理的投资理念、投资能力，并进行对比分析；S4、根据客户自身的投资要求和投资风格，从名单合集内筛选出符合客户要求的基金经理名单；S5、通过建模和文本预测名单内基金经理的未来投资业绩，并进一步再筛选出合适的名单；S6、根据客户的要求，去掉不符合要求的基金经理，获得最终推荐名单。

摘要： 本发明公开了一种基于NLP的容灾系统异常点检测方法，包括：获得日志文本数据集，基于NLP语义分析提取得到键值对结构，对词典中的每个词建立多维词向量矩阵，并构建每个日志文本数据词向量矩阵；将当前时刻日志文本数据和上一时刻异常风险置信度输入至长短期记忆网络得到异常风险置信度，与异常风险阈值比较得到风险日志文本数据序列；将风险日志文本数据序列输入至马尔科夫链中得到转移概率，当转移概率达到异常转移概率阈值时则将当前日志文本数据作为风险日志文本数据序列的异常点，基于异常点确定生产过程中的异常工位。容灾系统异常点检测方法能够精确检测到日志文本中的异常点。