一种检测言论信息的方法与设备

摘要

本申请的目的是提供一种检测言论信息的方法，该方法包括：获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

说明书

技术领域

本申请涉及通信领域，尤其涉及一种用于检测言论信息的技术。

背景技术

随着时代的发展，网络成为已人们工作和生活中必不可少的工具，然而，随之而来的是在网络上也出现了一些不健康的因素，如各大论坛交流群中可能存在严重的网络暴力问题，虽然目前有对不文明用语的检验，但现有技术中的检验手段仍然存在着很大的漏洞。

发明内容

本申请的一个目的是提供一种检测言论信息的方法与设备。

根据本申请的一个方面，提供了一种检测言论信息的方法，该方法包括：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的一个方面，提供了一种检测言论信息的网络设备，该设备包括：

一一模块，用于获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

一二模块，用于通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

一三模块，用于结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

一四模块，用于根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的一个方面，提供了一种检测言论信息的设备，其中，该设备包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，所述可执行指令在被执行时使所述处理器执行如下操作：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的一个方面，提供了一种存储指令的计算机可读介质，所述指令在被执行时使得系统进行如下操作：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

根据本申请的另一个方面，提供了一种计算机程序产品，包括计算机程序，当所述计算机程序被处理器执行时，执行如下方法：

获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；

通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；

结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；

根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

与现有技术相比，本申请能够通过敏感信息决策树对用户拟发表的言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，之后结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，进而根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息，由此能够通过采用情感模型检测来准确地检验出用户拟发表言论信息中是否有较为明显的人身攻击，从而有效防止网络暴力，且可以更好的保护容易被网络攻击的人群，并让攻击者受到法律制裁，从而起到警示及规范作用，绿化网络环境。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：

图1示出根据本申请一个实施例的一种检测言论信息的方法流程图；

图2示出根据本申请一个实施例的一种检测言论信息的网络设备结构图；

图3示出根据本申请一个实施例的一种检测言论信息的方法流程图；

图4示出可被用于实施本申请中所述的各个实施例的示例性系统。

附图中相同或相似的附图标记代表相同或相似的部件。

具体实施方式

下面结合附图对本申请作进一步详细描述。

在本申请一个典型的配置中，终端、服务网络的设备和可信方均包括一个或多个处理器(例如，中央处理器(Central Processing Unit，CPU))、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RandomAccess Memory，RAM)和/或非易失性内存等形式，如只读存储器(Read Only Memory，ROM)或闪存(Flash Memory)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(Phase-Change Memory，PCM)、可编程随机存取存储器(Programmable Random Access Memory，PRAM)、静态随机存取存储器(Static Random-Access Memory，SRAM)、动态随机存取存储器(Dynamic Random AccessMemory，DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(Electrically-Erasable Programmable Read-Only Memory，EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(Compact Disc Read-Only Memory，CD-ROM)、数字多功能光盘(Digital Versatile Disc,DVD)或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。

本申请所指设备包括但不限于用户设备、网络设备、或用户设备与网络设备通过网络相集成所构成的设备。所述用户设备包括但不限于任何一种可与用户进行人机交互(例如通过触摸板进行人机交互)的移动电子产品，例如智能手机、平板电脑等，所述移动电子产品可以采用任意操作系统，如Android操作系统、iOS操作系统等。其中，所述网络设备包括一种能够按照事先设定或存储的指令，自动进行数值计算和信息处理的电子设备，其硬件包括但不限于微处理器、专用集成电路(Application Specific IntegratedCircuit，ASIC)、可编程逻辑器件(Programmable Logic Device，PLD)、现场可编程门阵列(Field Programmable Gate Array，FPGA)、数字信号处理器(Digital Signal Processor，DSP)、嵌入式设备等。所述网络设备包括但不限于计算机、网络主机、单个网络服务器、多个网络服务器集或多个服务器构成的云；在此，云由基于云计算(Cloud Computing)的大量计算机或网络服务器构成，其中，云计算是分布式计算的一种，由一群松散耦合的计算机集组成的一个虚拟超级计算机。所述网络包括但不限于互联网、广域网、城域网、局域网、VPN网络、无线自组织网络(Ad Hoc网络)等。优选地，所述设备还可以是运行于所述用户设备、网络设备、或用户设备与网络设备、网络设备、触摸终端或网络设备与触摸终端通过网络相集成所构成的设备上的程序。

当然，本领域技术人员应能理解上述设备仅为举例，其他现有的或今后可能出现的设备如可适用于本申请，也应包含在本申请保护范围以内，并在此以引用方式包含于此。

在本申请的描述中，“多个”的含义是两个或者更多，除非另有明确具体的限定。

图1示出根据本申请一个实施例的一种检测言论信息的方法流程图，该方法包括步骤S11、步骤S12、步骤S13和步骤S14。在步骤S11中，网络设备获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；在步骤S12中，网络设备通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；在步骤S13中，网络设备结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；在步骤S14中，网络设备根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

在步骤S11中，网络设备获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息。在一些实施例中，评论对象包括但不限于某篇文章、某个帖子、某个视频、某张图片、某个商品、某个应用、某条评论等，评论对象对应的对象相关信息包括但不限于文章标题、文章摘要、文章内容、帖子标题、帖子内容、视频标题、视频简介、图片标题、图片简介、商品名称、商品标题、商品简介、应用名称、应用简介、评论内容等。在一些实施例中，用户在其使用的用户设备上输入针对某个评论对象拟发表的言论信息，并将该言论信息及该评论对象的对象相关信息发送给网络设备。在一些实施例中，用户在其使用的用户设备上输入针对某个评论对象拟发表的言论信息，并将该言论信息及该评论对象的标识信息发送给网络设备，网络设备通过该标识信息，在网络设备的本地存储(例如，内存、缓存、数据库、文件等)中查找获得该标识信息所标识的评论对象的对象相关信息。

在步骤S12中，网络设备通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的。在一些实施例中，敏感词是指带有敏感政治倾向、暴力倾向、人身攻击倾向、不健康倾向的不文明用词，敏感词语料库中包括大量的敏感词语料，每个敏感词语料均为一个已认定的不文明用词。在一些实施例中，根据敏感词语料库中的多个敏感词语料可以构建敏感信息决策树，在构建完敏感信息决策树后便不再依赖于敏感词语料库，只需构建一次敏感信息决策树，敏感信息决策树中的每个节点均为一个文字，敏感信息决策树中的多个依次相连接的节点所对应的多个文字所组成的词语即为敏感词语料库中的一个敏感词语料，例如，节点1“M1”，节点2“M2”为节点1的子节点，节点3“M3”为节点2的子节点，节点1、节点2、节点3所组成的词语“M1M2M3”即为敏感词语料库中的一个敏感词语料。在一些实施例中，先将言论信息拆分成多个词语，对于每个词语，若敏感信息决策树中存在由多个依次相连接的节点所对应的多个文字所组成的该词语，则可以确定该词语为敏感词，以此可以确定该言论信息中是否包含敏感词、包含的敏感词的数量、以及包含哪个或哪几个敏感词。

在步骤S13中，网络设备结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性。在一些实施例中，除了需要对言论信息进行敏感词检测，还需要对该言论信息进行整段信息检测，检测该言论信息针对其对应的评论对象具有攻击性。在一些实施例中，可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于贝叶斯分类器的第一情感模型，输出该言论信息是否针对该评论对象具有攻击性。在一些实施例中，还可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于CNN卷积神经网络的第二情感模型，同样也可以输出该言论信息是否针对该评论对象具有攻击性。在一些实施例中，需要大量的样本情感信息数据进行情感模型的学习与训练，并使用句子级别的训练方式及分类方式，通过已训练好的情感模型可以预测某段言论信息针对某个评论对象的人为情感信息，从而可以确定某段言论信息针对某个评论对象是否具有较为明显的人身攻击，其中，样本情感信息数据为需要结合相关信息才能理解、且结合不同的相关信息会产生不同情感理解的样本数据。在一些实施例中，使用基于贝叶斯分类器的贝叶斯情感模型为基础模型，在此基础模型上使用CNN卷积神经网络进行模型升级，可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于卷积神经网络及贝叶斯分类器的模型升级后的情感模型，输出该言论信息是否针对该评论对象具有攻击性，该升级后的模型相对于仅基于贝叶斯分类器的第一情感模型、仅基于CNN卷积神经网络的第二情感模型具有较好的性能及较高的准确率。

在步骤S14中，网络设备根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。在一些实施例中，只有在该言论信息中包含的敏感词满足预定敏感条件的情况下才可以在网络设备中发表该言论信，其中，该预定敏感条件包括但不限于该言论信息中不包含敏感词、该言论信息中包含的敏感词数量小于或等于预定数量阈值、该言论信息中包含的敏感词在该言论信息中的出现词频小于或等于预定的词频阈值。在一些实施例中，只有在该言论信息针对其对应的评论对象不具有攻击性的情况下才可以发表该言论信息。在一些实施例中，不仅需要该言论信息中所包含的敏感词满足预定敏感条件，还需要满足该言论信息针对其对应的评论对象不具有攻击性的情况下，才可以发表该言论信息。本申请能够通过采用情感模型检测来准确地检验出用户拟发表言论信息中是否有较为明显的人身攻击，从而有效防止网络暴力，且可以更好的保护容易被网络攻击的人群，并让攻击者受到法律制裁，从而起到警示及规范作用，绿化网络环境。

在一些实施例中，所述敏感信息还包括所述言论信息对应的敏感度信息；其中，所述方法还包括步骤S15(未示出)。在步骤S15中，网络设备根据所述至少一个敏感词的数量信息及每个敏感词在所述言论信息中的出现词频信息，确定所述敏感度信息。在一些实施例中，言论信息中包含的敏感词的数量越多，该言论信息对应的敏感度越大，每个敏感词在该言论信息中的出现词频越高，该言论信息对应的敏感度越大。例如，该信息为“M1M2M3M2M1”，该言论信息中包含2个敏感词，分别为“M1”、“M3”,敏感词“M1”在该言论信息中出现了2次，其对应的出现词频为“2”，敏感词“M3”在该言论信息中出现了1次，其对应的出现词频为“1”，因此，该言论信息对应的敏感度为1+1*2＝3。在一些实施例中，只有在某个言论信息对应的敏感度小于或等于预定的敏感度阈值的情况下才可以在网络设备中发表该言论信息。

在一些实施例中，所述步骤S15包括：网络设备根据所述至少一个敏感词的数量信息及每个敏感词在所述言论信息中的出现词频信息，并结合所述每个敏感词在所述言论信息中的位置信息，确定所述敏感度信息。在一些实施例中，在确定某个言论信息对应的敏感度的时候，还需要结合该言论信息中所包含的每个敏感词在该言论信息中的位置，不同位置对应不同的权重系数。在一些实施例中，越靠前的位置对应越大的权重系数，或者，越靠后的位置对应越大的权重系数，或者，越靠两头的位置对应越大的权重系数，越靠中间的位置对应越小的权重系数。例如，该信息为“M1M2M3M4M5”，该言论信息中包含2个敏感词，分别为“M1”、“M3”，敏感词“M1”在该言论信息中的位置为“0”，其对应的权重系数为“1.5”，敏感词“M3”在该言论信息中的位置为“2”，其对应的权重系数为“0.8”，因此，该言论信息对应的敏感度为1*1.5+1*0.8＝2.3。

在一些实施例中，所述步骤S14包括：网络设备根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息；若否，将所述言论信息对应的法律协议发送给所述用户，接收所述用户返回的关于所述法律协议的反馈信息，若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息。在一些实施例中，若确定不可以直接发表该言论信息，会生成该言论信息对应的法律协议并发送给该用户对应的用户设备进行呈现，若该用户拒绝签署该法律协议，该言论信息会被驳回不会在网络设备上发表，若该用户签署了该法律协议，才会在网络设备上发表该言论信息。

在一些实施例中，所述若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息，包括：若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息，并将所述用户确认为潜在危险用户，存储所述言论信息、所述对象相关信息、所述用户的用户相关信息并发送给指定国家机构对应的网络设备，以进行危险用户存储。在一些实施例中，若该用户签署了该言论信息对应的法律协议，会在网络设备上发表该言论信息，并将该用户确认为潜在危险用户，将该言论信息，该言论信息所对应的评论对象的对象相关信息以及该用户的用户相关信息(例如，用户ID、用户名称、用户个人信息、该用户发表该言论信息所使用的账号对应的账号相关信息、该用户发表该言论信息所使用的用户设备对应的设备相关信息等)存储在网络设备中并推送给指定国家机构对应的服务器进行危险用户存储。

在一些实施例中，所述方法还包括：网络设备接收所述指定国家机构对应的网络设备发送的、关于所述用户的危险用户认定结果信息，根据所述危险用户认定结果信息，确定所述用户对应的处罚信息；根据所述处罚信息，对所述用户进行处罚。在一些实施例中，该指定国家机构会判定该用户是否有触犯法律，若判定该用户触发了法律，会将该用户认定为危险用户，生成用于指示该用户被认定为危险用户的危险用户认定结果信息并发送给发布该言论信息的网络设备，该网络设备会根据该危险用户认定结果信息，确定该用户对应的处罚信息，并根据该处罚信息对该用户进行处罚，其中，该处罚信息包括但不限于警告处罚、积分扣除处罚、信用降级处罚、短时间封号处罚、永久封号处罚等。在一些实施例中，危险用户认定结果信息中还会包括该用户对应的危险等级信息、危险程度信息等，该用户对应的危险等级越高、危险程度越大，则该用户对应的处罚越重。作为一个示例，如图3所示，应用端将用户发表的言论信息发送给服务端，服务端拉取该言论信息及该言论信息对应的评论对象的文章标题等相关信息，对该言论信息进行智能检测，检测其是否带有攻击性言论，若是，给该用户返回法律协议签署，若该用户拒绝签署该法律协议，则驳回该言论信息，若用户同意签署该法律协议，则发表该言论信息，并存储用户信息、设备号、账号等相关信息，并把以上相关信息推送给国家机构进行危险用户存储，国家机构判断该用户是否有触犯法律，并将判断结果发送给服务端，若该用户有触犯法律，则服务端会通知应用端根据事态严重对该用户进行相应的处罚。

在一些实施例中，所述方法还包括：网络设备将所述敏感词语料库中的多个敏感词预料按照每个敏感词语料的第一个字的拼音首字母进行聚类，将每个拼音首字母作为根节点，将每个敏感词语料的第一个字作为其对应的拼音首字母的子节点，且将该敏感词语料的第二个字作为该第一个字的子节点，以此类推，构建所述敏感信息决策树。在一些实施例中，会将敏感词语料库中的所有敏感词语料按照每个敏感词语料的第一个字的拼音首字母进行聚类，得到每个拼音首字母对应的敏感词语料集合，将每个拼音首字母作为敏感信息决策树的根节点。在一些实施例中，敏感信息决策树包括26个根节点，分别为从“a”到“z”的26个拼音首字母。在一些实施例中，对于每个拼音首字母对应的根节点，将该拼音首字母对应的敏感词语料集合中的每个敏感词语料的第一个字作为该拼音首字母的子节点，并将该敏感词语料的第二个字作为该敏感词语料的第一个字的子节点，以此类推，将该敏感词语料的后一个字作为该敏感词语料的前一个字的子节点，从而构建敏感信息决策树。例如，某个敏感词语料为“M1M2M3”，该敏感词语料的第一个字“M1”的拼音首字母为“a”，则根节点为“a”，根节点“a”的子节点为“M1”，子节点“M1”的子节点为“M2”，子节点“M2”的子节点为“M3”。在一些实施例中，若某个敏感词语料为英文敏感词语料，则将该英文敏感词语料按照其第一个英文字母进行聚类，得到每个英文字母对应的英文敏感词语料集合，将每个英文字母作为敏感信息决策树的根节点，并将其第二个英文字母作为该第一个英文字母对应的根节点的子节点，以此类推，将该英文敏感词语料的后一个英文字母作为该敏感词语料的前一个英文字母的子节点。

在一些实施例中，所述步骤S12包括步骤S121(未示出)和步骤S122(未示出)。在步骤S121中，网络设备过滤所述言论信息中的无意义字符信息，得到过滤后的言论信息；在步骤S122中，网络设备通过敏感信息决策树对所述过滤后的言论信息进行敏感词检测，确定所述言论信息对应的敏感信息。在一些实施例中，需要对言论信息进行预处理，过滤言论信息中的无意义字符，得到过滤后的言论信息，其中，无意义字符包括但不限于标点符号(例如，“。”、“，”等)、没有意义的修饰词等，例如，结构助词(“的”、“地”、“得”等)、语气助词(“哦”、“呀”、“哇”等)、只用于加强语气的修饰词(“虽然”、“但是”、“更加”等)，在言论信息中，这些无意义字符经常出现却又不不会是敏感词，它们的存在较大的增加敏感词的检测时间，所以需要将这些无意义字符过滤掉。

在一些实施例中，所述步骤S122包括：网络设备将所述过滤后的言论信息拆分成多个词语信息，通过在所述敏感信息决策树中查找所述多个词语信息，确定所述言论信息对应的敏感信息。在一些实施例中，若在敏感信息决策树中查找到所述多个词语信息中的一个或多个词语信息，则将该一个或多个词语信息确定为所述言论信息对应的敏感信息、在一些实施例中，若在敏感信息决策树中查找到与一个或多个词语信息的近义词或同义词，则将该一个或多个词语信息确定为所述言论信息对应的敏感信息。在一些实施例中，可基于预定的词语类型(如形容词、动词等)，从过滤后的言论信息中拆分得到多个词语信息。

在一些实施例中，所述将所述过滤后的言论信息拆分成多个词语信息，包括：从所述过滤后的言论信息的第一个字开始，确定该第一个字以及该第一个字后的连续多个字构成的词语信息，然后从该词语信息的下一个字开始，以此类推，将所述过滤后的言论信息拆分成多个词语信息。在一些实施例中，从过滤后的言论信息中的第一个字开始，若该第一个字与紧随其后的N个字能够构成一个词语，则将该第一个字与该N个字的组合确定为一个词语信息，并从该N个字之后的下一字开始重新确定下一个词语信息。作为一个示例，从过滤后的言论信息的第一个字开始，确定该第一个字以及其后的3个字构成一个词语，则将该第一个字与该3个字一起作为一个词语信息，然后从第5个字开始，若该第5个字无法与第6个字构成一个词语，则将该第5个字单独确定为一个词语信息，然后从第6个字开始继续确定下一个词语信息，以此类推，来将过滤后的言论信息拆分为多个词语信息。

在一些实施例中，所述方法还包括步骤S16(未示出)。在步骤S16中，网络设备通过多个评论对象的对象相关信息及每个评论对象对应的一个或多个样本情感信息数据进行学习训练，获得所述情感模型。在一些实施例中，需要大量的评论对象及每个评论对象对应的大量样本情感信息数据进行情感模型的学习与训练，并使用句子级别的训练方式及分类方式，其中，样本情感信息数据为需要结合具体的评论对象才能理解、且结合不同的评论对象会产生不同情感理解的样本数据。

在一些实施例中，每个样本情感信息数据包括一个评分信息及该评分信息对应的评论信息；其中，所述步骤S16包括：网络设备通过多个评论对象的对象相关信息及每个评论对象对应的一个或多个评分信息及每个评分信息对应的评论信息进行学习训练，获得所述情感模型。在一些实施例中，评论对象可以是电商网站或电商APP中的一个商品，可以将每个商品的商品名称、商品标题、商品简介及该商品对应的多个用户评分信息及每个用户评分信息对应的用户评论信息作为训练数据带入情感模型进行学习训练。在一些实施例中，评论对象还可以是应用市场中的一个应用，可以将每个应用的应用名称、应用简介及该应用对应的多个用户评分信息及每个用户评分信息对应的用户评论信息作为训练数据带入情感模型进行学习训练。在一些实施例中，可以将用户评分信息进行向量化，例如将大于或等于某个预定评分阈值的用户评分信息向量化为1，将小于某个预定评分阈值的用户评分信息向量化为0，从而将用户评分信息向量化为正评分与负评分，然后带入情感模型进行模型训练。

在一些实施例中，所述情感模型包括基于贝叶斯分类器的贝叶斯情感模型及基于卷积神经网络的情绪模型；所述步骤S13包括：网络设备结合所述对象相关信息，通过所述贝叶斯情感模型检测获得所述言论信息对应的内容攻击性识别结果信息，其中，所述内容攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有内容攻击性；结合所述对象相关信息，通过所述情绪模型检测获得所述言论信息对应的情绪攻击性识别结果信息，其中，所述情绪攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有情绪攻击性；其中，所述步骤S14包括：网络设备根据所述敏感信息、所述内容攻击性识别结果信息及所述情绪攻击性识别结果信息，确定是否发表所述言论信息。在一些实施例中，由于基于贝叶斯分类器的贝叶斯情感模型是对言论信息的实际意义进行正面或负面的判断，无法定义中性词或者具有讽刺意义带有情绪的词汇，所以可以先通过贝叶斯情感模型来检测该言论信息是否针对其对应的评论对象具有内容攻击性，在进行完贝叶斯情感模型检测后需用基于CNN卷积神经网络的情绪模型来检测该言论信息所表达情绪的正面性或者负面性，检测该言论信息是否针对其对应的评论对象具有情绪攻击性。在一些实施例中，对于某个言论信息，若该言论信息针对其对应的评论对象同时具有内容攻击性及情绪攻击性，则可以确定该言论信息具有攻击性。在一些实施例中，对于某个言论信息，只要该言论信息针对其对应的评论对象具有内容攻击性及情绪攻击性中的一个，就可以确定该言论信息具有攻击性。

在一些实施例中，所述方法还包括在所述步骤S14之后执行步骤S17(未示出)。在步骤S17中，网络设备若确定发表所述言论信息且所述言论信息中包含至少一个敏感词，根据所述至少一个敏感词对所述言论信息进行敏感词处理，发表处理后的所述言论信息。在一些实施例中，若确定可以发表该言论信息且该言论信息中包含至少一个敏感词，则可以从该言论信息中剔除该至少一个敏感词，并发表剔除后的该言论信息，在一些实施例中，若确定可以发表该言论信息且该言论信息中包含至少一个敏感词，则可以用默认字符(例如，“*”)来替换该言论信息中的至少一个敏感词，并发表替换后的该言论信息。

在一些实施例中，所述步骤S17包括：网络设备若确定发表所述言论信息且所述言论信息中包含至少一个敏感词，将所述至少一个敏感词对应的替换提示信息发送给所述用户；接收所述用户返回的所述至少一个敏感词对应的替换词信息，其中，所述替换词信息为所述用户根据所述替换提示信息确定的；根据所述替换词信息对所述至少一个敏感词执行替换操作，发表替换后的所述言论信息。在一些实施例中，若确定可以发表该言论信息且该言论信息中包含至少一个敏感词，则生成关于该至少一个敏感词的替换提示信息兵发送给拟发表该言论信息的用户，提示该用户确定该至少一个敏感词对应的替换词，然后用该用户确定的替换词来替换该言论信息中的至少一个敏感词，并发表替换后的该言论信息。在一些实施例中，该至少一个敏感词对应的替换词可以由该用户手动输入，或者，可以提供该至少一个敏感词对应的多个替换词可选项以供用户进行选择，或者，若该用户超时未确定该至少一个敏感词对应的替换词，则由网络设备将预定的默认字符(例如，“*”)设置为该至少一个敏感词对应的替换词。

图2示出根据本申请一个实施例的一种检测言论信息的网络设备结构图，该设备包括一一模块11、一二模块12、一三模块13和一四模块14。一一模块11，用于获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息；一二模块12，用于通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的；一三模块13，用于结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性；一四模块14，用于根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。

一一模块11，用于获取用户针对评论对象拟发表的言论信息及所述评论对象对应的对象相关信息。在一些实施例中，评论对象包括但不限于某篇文章、某个帖子、某个视频、某张图片、某个商品、某个应用、某条评论等，评论对象对应的对象相关信息包括但不限于文章标题、文章摘要、文章内容、帖子标题、帖子内容、视频标题、视频简介、图片标题、图片简介、商品名称、商品标题、商品简介、应用名称、应用简介、评论内容等。在一些实施例中，用户在其使用的用户设备上输入针对某个评论对象拟发表的言论信息，并将该言论信息及该评论对象的对象相关信息发送给网络设备。在一些实施例中，用户在其使用的用户设备上输入针对某个评论对象拟发表的言论信息，并将该言论信息及该评论对象的标识信息发送给网络设备，网络设备通过该标识信息，在网络设备的本地存储(例如，内存、缓存、数据库、文件等)中查找获得该标识信息所标识的评论对象的对象相关信息。

一二模块12，用于通过敏感信息决策树对所述言论信息进行敏感词检测，确定所述言论信息对应的敏感信息，其中，所述敏感信息包括所述言论信息中包含的至少一个敏感词，所述敏感信息决策树是根据敏感词语料库构建的。在一些实施例中，敏感词是指带有敏感政治倾向、暴力倾向、人身攻击倾向、不健康倾向的不文明用词，敏感词语料库中包括大量的敏感词语料，每个敏感词语料均为一个已认定的不文明用词。在一些实施例中，根据敏感词语料库中的多个敏感词语料可以构建敏感信息决策树，在构建完敏感信息决策树后便不再依赖于敏感词语料库，只需构建一次敏感信息决策树，敏感信息决策树中的每个节点均为一个文字，敏感信息决策树中的多个依次相连接的节点所对应的多个文字所组成的词语即为敏感词语料库中的一个敏感词语料，例如，节点1“M1”，节点2“M2”为节点1的子节点，节点3“M3”为节点2的子节点，节点1、节点2、节点3所组成的词语“M1M2M3”即为敏感词语料库中的一个敏感词语料。在一些实施例中，先将言论信息拆分成多个词语，对于每个词语，若敏感信息决策树中存在由多个依次相连接的节点所对应的多个文字所组成的该词语，则可以确定该词语为敏感词，以此可以确定该言论信息中是否包含敏感词、包含的敏感词的数量、以及包含哪个或哪几个敏感词。

一三模块13，用于结合所述对象相关信息，通过基于卷积神经网络和/或贝叶斯分类器的情感模型检测获得所述言论信息对应的攻击性识别结果信息，其中，所述攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有攻击性。在一些实施例中，除了需要对言论信息进行敏感词检测，还需要对该言论信息进行整段信息检测，检测该言论信息针对其对应的评论对象具有攻击性。在一些实施例中，可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于贝叶斯分类器的第一情感模型，输出该言论信息是否针对该评论对象具有攻击性。在一些实施例中，还可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于CNN卷积神经网络的第二情感模型，同样也可以输出该言论信息是否针对该评论对象具有攻击性。在一些实施例中，需要大量的样本情感信息数据进行情感模型的学习与训练，并使用句子级别的训练方式及分类方式，通过已训练好的情感模型可以预测某段言论信息针对某个评论对象的人为情感信息，从而可以确定某段言论信息针对某个评论对象是否具有较为明显的人身攻击，其中，样本情感信息数据为需要结合相关信息才能理解、且结合不同的相关信息会产生不同情感理解的样本数据。在一些实施例中，使用基于贝叶斯分类器的贝叶斯情感模型为基础模型，在此基础模型上使用CNN卷积神经网络进行模型升级，可以将该言论信息及该评论对象的对象相关信息输入已训练好的基于卷积神经网络及贝叶斯分类器的模型升级后的情感模型，输出该言论信息是否针对该评论对象具有攻击性，该升级后的模型相对于仅基于贝叶斯分类器的第一情感模型、仅基于CNN卷积神经网络的第二情感模型具有较好的性能及较高的准确率。

一四模块14，用于根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息。在一些实施例中，只有在该言论信息中包含的敏感词满足预定敏感条件的情况下才可以在网络设备中发表该言论信，其中，该预定敏感条件包括但不限于该言论信息中不包含敏感词、该言论信息中包含的敏感词数量小于或等于预定数量阈值、该言论信息中包含的敏感词在该言论信息中的出现词频小于或等于预定的词频阈值。在一些实施例中，只有在该言论信息针对其对应的评论对象不具有攻击性的情况下才可以发表该言论信息。在一些实施例中，不仅需要该言论信息中所包含的敏感词满足预定敏感条件，还需要满足该言论信息针对其对应的评论对象不具有攻击性的情况下，才可以发表该言论信息。本申请能够通过采用情感模型检测来准确地检验出用户拟发表言论信息中是否有较为明显的人身攻击，从而有效防止网络暴力，且可以更好的保护容易被网络攻击的人群，并让攻击者受到法律制裁，从而起到警示及规范作用，绿化网络环境。

在一些实施例中，所述敏感信息还包括所述言论信息对应的敏感度信息；其中，所述设备还包括一五模块15(未示出)。一五模块15，用于根据所述至少一个敏感词的数量信息及每个敏感词在所述言论信息中的出现词频信息，确定所述敏感度信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述一五模块15用于：根据所述至少一个敏感词的数量信息及每个敏感词在所述言论信息中的出现词频信息，并结合所述每个敏感词在所述言论信息中的位置信息，确定所述敏感度信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述一四模块14用于：根据所述敏感信息及所述攻击性识别结果信息，确定是否发表所述言论信息；若否，将所述言论信息对应的法律协议发送给所述用户，接收所述用户返回的关于所述法律协议的反馈信息，若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息，包括：若所述反馈信息指示所述用户已签署所述法律协议，发表所述言论信息，并将所述用户确认为潜在危险用户，存储所述言论信息、所述对象相关信息、所述用户的用户相关信息并发送给指定国家机构对应的网络设备，以进行危险用户存储。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述设备还用于：接收所述指定国家机构对应的网络设备发送的、关于所述用户的危险用户认定结果信息，根据所述危险用户认定结果信息，确定所述用户对应的处罚信息；根据所述处罚信息，对所述用户进行处罚。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述设备还用于：将所述敏感词语料库中的多个敏感词预料按照每个敏感词语料的第一个字的拼音首字母进行聚类，将每个拼音首字母作为根节点，将每个敏感词语料的第一个字作为其对应的拼音首字母的子节点，且将该敏感词语料的第二个字作为该第一个字的子节点，以此类推，构建所述敏感信息决策树。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述一二模块12包括一二一模块121(未示出)和一二二模块122(未示出)。一二一模块121，用于过滤所述言论信息中的无意义字符信息，得到过滤后的言论信息；一二二模块122，用于通过敏感信息决策树对所述过滤后的言论信息进行敏感词检测，确定所述言论信息对应的敏感信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述一二二模块122用于：将所述过滤后的言论信息拆分成多个词语信息，通过在所述敏感信息决策树中查找所述多个词语信息，确定所述言论信息对应的敏感信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述将所述过滤后的言论信息拆分成多个词语信息，包括：从所述过滤后的言论信息的第一个字开始，确定该第一个字以及该第一个字后的连续多个字构成的词语信息，然后从该词语信息的下一个字开始，以此类推，将所述过滤后的言论信息拆分成多个词语信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述设备还包括一六模块16(未示出)。一六模块16，用于通过多个评论对象的对象相关信息及每个评论对象对应的一个或多个样本情感信息数据进行学习训练，获得所述情感模型。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，每个样本情感信息数据包括一个评分信息及该评分信息对应的评论信息；其中，所述一六模块16用于：通过多个评论对象的对象相关信息及每个评论对象对应的一个或多个评分信息及每个评分信息对应的评论信息进行学习训练，获得所述情感模型。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述情感模型包括基于贝叶斯分类器的贝叶斯情感模型及基于卷积神经网络的情绪模型；所述一三模块13用于：结合所述对象相关信息，通过所述贝叶斯情感模型检测获得所述言论信息对应的内容攻击性识别结果信息，其中，所述内容攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有内容攻击性；结合所述对象相关信息，通过所述情绪模型检测获得所述言论信息对应的情绪攻击性识别结果信息，其中，所述情绪攻击性识别结果信息用于指示所述言论信息是否对所述评论对象具有情绪攻击性；其中，所述一四模块14用于：根据所述敏感信息、所述内容攻击性识别结果信息及所述情绪攻击性识别结果信息，确定是否发表所述言论信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述设备还包括一七模块17(未示出)。一七模块17，用于若确定发表所述言论信息且所述言论信息中包含至少一个敏感词，根据所述至少一个敏感词对所述言论信息进行敏感词处理，发表处理后的所述言论信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

在一些实施例中，所述一七模块17用于：若确定发表所述言论信息且所述言论信息中包含至少一个敏感词，将所述至少一个敏感词对应的替换提示信息发送给所述用户；接收所述用户返回的所述至少一个敏感词对应的替换词信息，其中，所述替换词信息为所述用户根据所述替换提示信息确定的；根据所述替换词信息对所述至少一个敏感词执行替换操作，发表替换后的所述言论信息。在此，相关操作与图1所示实施例相同或相近，故不再赘述，在此以引用方式包含于此。

图4示出了可被用于实施本申请中所述的各个实施例的示例性系统。

如图4所示在一些实施例中，系统300能够作为各所述实施例中的任意一个设备。在一些实施例中，系统300可包括具有指令的一个或多个计算机可读介质(例如，系统存储器或NVM/存储设备320)以及与该一个或多个计算机可读介质耦合并被配置为执行指令以实现模块从而执行本申请中所述的动作的一个或多个处理器(例如，(一个或多个)处理器305)。

对于一个实施例，系统控制模块310可包括任意适当的接口控制器，以向(一个或多个)处理器305中的至少一个和/或与系统控制模块310通信的任意适当的设备或组件提供任意适当的接口。

系统控制模块310可包括存储器控制器模块330，以向系统存储器315提供接口。存储器控制器模块330可以是硬件模块、软件模块和/或固件模块。

系统存储器315可被用于例如为系统300加载和存储数据和/或指令。对于一个实施例，系统存储器315可包括任意适当的易失性存储器，例如，适当的DRAM。在一些实施例中，系统存储器315可包括双倍数据速率类型四同步动态随机存取存储器(DDR4SDRAM)。

对于一个实施例，系统控制模块310可包括一个或多个输入/输出(I/O)控制器，以向NVM/存储设备320及(一个或多个)通信接口325提供接口。

例如，NVM/存储设备320可被用于存储数据和/或指令。NVM/存储设备320可包括任意适当的非易失性存储器(例如，闪存)和/或可包括任意适当的(一个或多个)非易失性存储设备(例如，一个或多个硬盘驱动器(HDD)、一个或多个光盘(CD)驱动器和/或一个或多个数字通用光盘(DVD)驱动器)。

NVM/存储设备320可包括在物理上作为系统300被安装在其上的设备的一部分的存储资源，或者其可被该设备访问而不必作为该设备的一部分。例如，NVM/存储设备320可通过网络经由(一个或多个)通信接口325进行访问。

(一个或多个)通信接口325可为系统300提供接口以通过一个或多个网络和/或与任意其他适当的设备通信。系统300可根据一个或多个无线网络标准和/或协议中的任意标准和/或协议来与无线网络的一个或多个组件进行无线通信。

对于一个实施例，(一个或多个)处理器305中的至少一个可与系统控制模块310的一个或多个控制器(例你如，存储器控制器模块330)的逻辑封装在一起。对于一个实施例，(一个或多个)处理器305中的至少一个可与系统控制模块310的一个或多个控制器的逻辑封装在一起以形成系统级封装(SiP)。对于一个实施例，(一个或多个)处理器305中的至少一个可与系统控制模块310的一个或多个控制器的逻辑集成在同一模具上。对于一个实施例，(一个或多个)处理器305中的至少一个可与系统控制模块310的一个或多个控制器的逻辑集成在同一模具上以形成片上系统(SoC)。

在各个实施例中，系统300可以但不限于是：服务器、工作站、台式计算设备或移动计算设备(例如，膝上型计算设备、持有计算设备、平板电脑、上网本等)。在各个实施例中，系统300可具有更多或更少的组件和/或不同的架构。例如，在一些实施例中，系统300包括一个或多个摄像机、键盘、液晶显示器(LCD)屏幕(包括触屏显示器)、非易失性存储器端口、多个天线、图形芯片、专用集成电路(ASIC)和扬声器。

本申请还提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机代码，当所述计算机代码被执行时，如前任一项所述的方法被执行。

本申请还提供了一种计算机程序产品，当所述计算机程序产品被计算机设备执行时，如前任一项所述的方法被执行。

本申请还提供了一种计算机设备，所述计算机设备包括：

一个或多个处理器；

存储器，用于存储一个或多个计算机程序；

当所述一个或多个计算机程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如前任一项所述的方法。

需要注意的是，本申请可在软件和/或软件与硬件的组合体中被实施，例如，可采用专用集成电路(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。在一个实施例中，本申请的软件程序可以通过处理器执行以实现上文所述步骤或功能。同样地，本申请的软件程序(包括相关的数据结构)可以被存储到计算机可读记录介质中，例如，RAM存储器，磁或光驱动器或软磁盘及类似设备。另外，本申请的一些步骤或功能可采用硬件来实现，例如，作为与处理器配合从而执行各个步骤或功能的电路。

另外，本申请的一部分可被应用为计算机程序产品，例如计算机程序指令，当其被计算机执行时，通过该计算机的操作，可以调用或提供根据本申请的方法和/或技术方案。本领域技术人员应能理解，计算机程序指令在计算机可读介质中的存在形式包括但不限于源文件、可执行文件、安装包文件等，相应地，计算机程序指令被计算机执行的方式包括但不限于：该计算机直接执行该指令，或者该计算机编译该指令后再执行对应的编译后程序，或者该计算机读取并执行该指令，或者该计算机读取并安装该指令后再执行对应的安装后程序。在此，计算机可读介质可以是可供计算机访问的任意可用的计算机可读存储介质或通信介质。

通信介质包括藉此包含例如计算机可读指令、数据结构、程序模块或其他数据的通信信号被从一个系统传送到另一系统的介质。通信介质可包括有导的传输介质(诸如电缆和线(例如，光纤、同轴等))和能传播能量波的无线(未有导的传输)介质，诸如声音、电磁、RF、微波和红外。计算机可读指令、数据结构、程序模块或其他数据可被体现为例如无线介质(诸如载波或诸如被体现为扩展频谱技术的一部分的类似机制)中的已调制数据信号。术语“已调制数据信号”指的是其一个或多个特征以在信号中编码信息的方式被更改或设定的信号。调制可以是模拟的、数字的或混合调制技术。

作为示例而非限制，计算机可读存储介质可包括以用于存储诸如计算机可读指令、数据结构、程序模块或其它数据的信息的任何方法或技术实现的易失性和非易失性、可移动和不可移动的介质。例如，计算机可读存储介质包括，但不限于，易失性存储器，诸如随机存储器(RAM,DRAM,SRAM)；以及非易失性存储器，诸如闪存、各种只读存储器(ROM,PROM,EPROM,EEPROM)、磁性和铁磁/铁电存储器(MRAM,FeRAM)；以及磁性和光学存储设备(硬盘、磁带、CD、DVD)；或其它现在已知的介质或今后开发的能够存储供计算机系统使用的计算机可读信息/数据。

在此，根据本申请的一个实施例包括一个装置，该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器，其中，当该计算机程序指令被该处理器执行时，触发该装置运行基于前述根据本申请的多个实施例的方法和/或技术方案。

对于本领域技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其他的具体形式实现本申请。因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本申请的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一，第二等词语用来表示名称，而并不表示任何特定的顺序。