确定临床描述信息的表型信息的方法、设备和介质

摘要

本公开涉及一种用于确定临床描述信息的表型信息的方法、计算设备和存储介质。该方法包括：获取临床描述信息；将临床描述信息中的每一句话分割成字或标点，以便转换成对应的输入标识；经由第一神经网络模型的第一网络层，将输入标识转换为第一特征向量，第一神经网络模型包括由第一语言模型所构建的第一网络层、由第二语言模型所构建的第二网络层、以及第三网络层；经由第二网络层，生成第二特征向量，第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合；经由第三网络层，确定临床描述信息的表型关键词。本公开能够实现自动、快速、准确地确定临床描述信息的表型信息。

说明书

技术领域

本公开总体上涉及生物信息处理，并且具体地，涉及用于确定临床描述信息的表型信息的方法、计算设备和计算机存储介质。

背景技术

表型信息例如包括：临床描述信息的特征描述和关联基因信息，临床描述信息的特征描述例如为表型关键词。表型信息对临床诊断策略的确定具有重要的参考意义，例如，在基因检测之前，表型关键词可以辅助确定要研究的区域，帮助筛选检验项目。在基因检测之后，表型关键词例如可以和关联基因信息可以关联起来以用于针对临床描述信息进行解释。因此，临床描述信息的表型信息（例如包括：表型关键词和关联基因信息）的准确确定变得尤为重要。

传统的确定临床描述信息的表型信息的方案大多依赖于人工的干预，例如，需要人工解读电子病历中的临床描述信息的表型关键词，以及需要人工匹配与临床描述信息相关联的关联基因，缺乏关于确定临床描述信息的表型信息的自动化流程解决方案，进而使得临床描述信息的表型信息的确定过程效率低下。另外，上述人工干预步骤会因为不同人针对同一段临床描述信息存在主观性偏差和描述格式的不确定性而导致临床描述信息的表型信息杂乱而缺乏通用性，而且容易产生错误。因此，传统的确定临床描述信息的表型信息的方案需要耗费较多时间、效率低下，并且容易产生错误。

综上，确定临床描述信息的表型信息的方案存在的不足之处在于：无法实现确定临床描述信息的表型信息的自动化，并且确定过程效率低下、缺乏通用性、且容易产生错误。

发明内容

本公开提供一种用于确定临床描述信息的表型信息的方法、计算设备和计算机存储介质，能够实现自动、快速、准确地确定临床描述信息的表型信息。

根据本公开的第一方面，提供了一种用于确定临床描述信息的表型信息的方法。该方法包括：获取临床描述信息；将临床描述信息中的每一句话分割成字或标点，以便将经分割的字或标点转换成对应的输入标识；经由第一神经网络模型的第一网络层，将输入标识转换为第一特征向量，第一神经网络模型包括由第一语言模型所构建的第一网络层、由第二语言模型所构建的第二网络层、以及第三网络层；经由第二网络层，生成第二特征向量，第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合；以及基于第一特征向量和第二特征向量，经由第三网络层，确定临床描述信息的表型关键词。

根据本发明的第二方面，还提供了一种计算设备，该设备包括：至少一个处理单元；至少一个存储器，至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令，指令当由至少一个处理单元执行时，使得计算设备执行本公开的第一方面的方法。

根据本公开的第三方面，还提供了一种计算机可读存储介质，其上存储有计算机程序，计算机程序被机器执行时实现根据本公开的第一方面的方法。

在一些实施例中，第一语言模型为基于转换器的双向编码表征（BERT）模型，第二语言模型为N元语法（N-gram）模型，第三网络层是基于条件随机场模型而构建的。

在一些实施例中，用于确定临床描述信息的表型信息的方法还包括：基于所确定的表型关键词，针对候选基因进行排序，以便生成关于候选基因的排序信息；以及基于候选基因的排序信息，确定与临床描述信息的表型相关联的基因。

在一些实施例中，基于所确定的表型关键词，针对候选基因进行排序以便生成关于候选基因的排序信息包括：确认候选基因和对应综合征；提取每一个对应综合征的表型；经由第二神经网络模型，计算临床描述信息的表型关键词与对应综合征的表型的相似度；以及基于所计算的相似度，针对候选基因进行排序，以便生成关于候选基因的排序信息。

在一些实施例中，第二神经网络模型是基于由BERT模型所形成的孪生神经网络而构建的。

在一些实施例中，第二神经网络模型包括第一池化层、第二池化层、相似度计算网络层、以及由BERT模型所分别构建的第一BERT网络层和第二BERT网络层。

在一些实施例中，经由第二神经网络模型计算临床描述信息的表型关键词与对应综合征的表型的相似度包括：针对临床描述信息的表型关键词和对应综合征的表型分别进行预处理，以便生成第一表型输入标识和第二表型输入标识；经由第一BERT网络层，将第一表型输入标识编码为第三特征向量，第三特征向量与临床描述信息的表型关键词的所有字符相对应；经由第二BERT网络层，将第二表型输入标识编码为第四特征向量, 第四特征向量与对应综合征的表型的所有字符相对应；经由第一池化层，基于第三特征向量，生成第一对应编码；经由第二池化层，基于第四特征向量，生成第二对应编码；以及经由相似度计算网络层，计算第一对应编码和第二对应编码的夹角的余弦，以便得到临床描述信息的表型关键词与对应综合征的表型之间的相似度。

在一些实施例中，第二神经网络模型的训练方法包括：针对预定标准术语集合中的多个标准术语，计算标准术语之间的相似度，以用于针对第二神经网络模型进行非监督训练；以及针对相关联的口语描述和标准术语，计算口语描述和标准术语之间的相似度，以用于针对第二神经网络模型进行监督训练。

在一些实施例中，针对第二神经网络模型进行非监督训练包括：将预定标准术语集合按照各个标准术语之间的相似度，映射到多维空间中；以及随机抽取两个标准术语，以便计算出两个标准术语之间的相似度，以用于将所计算的两个标准术语之间的相似度作为训练目标值而对第二神经网络模型进行训练。

在一些实施例中，针对相关联的口语描述和标准术语计算口语描述和标准术语之间的相似度，以用于针对第二神经网络模型进行监督训练包括：在0和1之间随机生成第一随机数和第二随机数；确定第一随机数是否小于第一预定阈值；响应于确定第一随机数小于第一预定阈值，针对作为第二神经网络模型的第一输入的口语描述和作为第二神经网络模型的第二输入的标准术语，确定第二神经网络模型的训练目标值为1；以及响应于确定第一随机数大于或者等于第一预定阈值，针对口语描述和标准术语，确定第二神经网络模型的训练目标值为口语描述所标注标准术语和作为第二输入的标准术语之间的预定表型标准术语树相似度，预定表型标准术语树包括多个节点，每一个节点对应一个标准术语，预定表型标准术语树相似度的大小与标准术语所对应的节点在预定表型标准术语树中的距离相关联。

在一些实施例中，以关联的口语表述和预定数据库的标准术语针对第二神经网络模型进行监督训练还包括：确定第二随机数是否小于第二预定阈值；响应于确定第二随机数小于第二预定阈值，训练第二神经网络模型；以及响应于确定第二随机数大于或者等于第二预定阈值，使得口语描述作为第二神经网络模型的第二输入以及标准术语作为第二神经网络模型的第一输入，以用于训练第二神经网络模型。

在一些实施例中，基于所计算的相似度针对候选基因进行排序包括：基于对应综合征的多个表型和所确定的临床描述信息的多个表型关键词，确定关于对应综合征的相似度矩阵，相似度矩阵指示对应综合征的表型与临床描述信息的表型关键词之间的相似度；基于关于每个对应综合征的相似度矩阵，确定关于每个对应综合征的评估值；以及基于关于对应综合征的评估值，确定关于候选基因的评估值，以便基于所确定的关于候选基因的评估值来针对候选基因进行排序。

在一些实施例中，经由第三网络层确定临床描述信息的表型关键词包括：融合第一特征向量和第二特征向量，以便生成经融合的特征向量；针对经融合的特征向量进行降维，以使得经降维的特征向量的维度与标签的类别数目相一致；经由第三网络层，提取经降维的特征向量的特征，以预测关于每一个经分割的字或标点的类别；以及基于所预测的关于每一个经分割的字或标点的类别，确定临床描述信息的表型关键词。

在一些实施例中，经由第三网络层提取经降维的特征向量的特征，以预测关于每一个经分割的字或标点的类别包括：将经降维的特征向量输入至第三网络层，以便计算每个经融和与降维的特征向量的对数似然值；针对所计算的对数似然值取负平均，以作为第一神经网络模型的损失值；以及采用维特比算法进行解码，以便预测关于每一个经分割的字或标点的类别。

提供发明内容部分是为了以简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或主要特征，也无意限制本公开的范围。

附图说明

图1示出了根据本公开的实施例的用于确定临床描述信息的表型信息的方法的系统的示意图。

图2示出了根据本公开的实施例的用于确定临床描述信息的表型信息的方法的流程图。

图3示出了根据本公开的实施例的第一神经网络的示意图。

图4示出了根据本公开的实施例的用于确定与临床描述信息的表型相关联的基因的方法的流程图。

图5示出了根据本公开的实施例的用于计算临床描述信息的表型关键词与对应综合征的表型的相似度的方法的流程图。

图6示意性示出了根据本公开实施例所示出的第二神经网络模型的示意图。

图7示出了根据本公开的实施例的第二神经网络的训练方法的流程图。

图8示出了根据本公开实施例的CHPO树结构的示意图。

图9示出了根据本公开的实施例的用于针对第二神经网络进行监督训练的方法的流程图。

图10示出了根据本公开的实施例的用于针对候选基因进行排序的方法的流程图。

图11示意性示出了适于用来实现本公开实施例的电子设备的框图。

在各个附图中，相同或对应的标号表示相同或对应的部分。

具体实施方式

下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例，然而应该理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了使本公开更加透彻和完整，并且能够将本公开的范围完整地传达给本领域的技术人员。

在本文中使用的术语“包括”及其变形表示开放性包括，即“包括但不限于”。除非特别申明，术语“或”表示“和/或”。术语“基于”表示“至少部分地基于”。术语“一个示例实施例”和“一个实施例”表示“至少一个示例实施例”。术语“另一实施例”表示“至少一个另外的实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象。

如前文提及，传统的确定临床描述信息的表型信息的方法需要人工解读电子病历中的临床描述信息的表型关键词，以及需要人工匹配与临床描述信息相关联的关联基因，缺乏关于确定临床描述信息的表型信息的自动化流程解决方案，进而使得表型信息的确定过程效率低下。另外，上述人工干预步骤会因为不同人针对同一段临床描述信息解释的主观性偏差和描述格式的不确定性，进而导致所确定的表型信息杂乱而缺乏通用性，而且容易产生错误。因此，传统的确定临床描述信息的表型信息的方案需要耗费较多时间，容易产生错误，并且所确定的表型信息缺乏通用性。

为了至少部分地解决上述问题以及其他潜在问题中的一个或者多个，本公开的示例实施例提出了一种用于确定临床描述信息的表型信息的方案。该方案通过将所获取的临床描述信息中、经分割的字或标点转换成对应的输入标识；并经由第一神经网络模型的第一网络层和第二网络层分别生成第一特征向量和第二特征向量；以及基于第一特征向量和第二特征向量，经由第一神经网络模型的第三网络层来确定临床描述信息的表型关键词。本公开可以经由第一神经网络来自动提取所获取的临床描述信息的表型关键词，因而能够更加快速地进行表型关键词的提取，避免了因人工解读电子病历的表型信息而导致的低效率和主观差异性。另外，通过使得经由第二网络层所生成的第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合，本公开能够更容易捕获临床描述信息中上下文相关的字词、以及与预定关键词集合的关联等其他形式的信息，从而使得所确定的表型关键词更为精确。因而，本公开能够实现自动、快速、准确地确定临床描述信息的表型信息。

图1示出了根据本公开的实施例的用于确定临床描述信息的表型信息的方法的系统100的示意图。如图1所示，系统100例如包括计算设备110、生信服务器150、网络140。计算设备110可以通过网络140以有线或者无线的方式与生信服务器150进行数据交互。

计算设备110例如可以用于获取临床描述信息；将临床描述信息中的每一句话分割成字或标点，以便将经分割的字或标点转换成对应的输入标识。计算设备110还可以用于经由第一神经网络模型的第一网络层，将输入标识转换为第一特征向量；以及经由第一神经网络模型的第二网络层，生成第二特征向量。另外，计算设备110还可以用于基于第一特征向量和第二特征向量，经由第一神经网络模型的第三网络层，确定临床描述信息的表型关键词临床描述信息的表型关键词。在一些实施例中，计算设备110可以具有一个或多个处理单元，包括诸如GPU、FPGA和ASIC等的专用处理单元以及诸如CPU的通用处理单元。另外，在每个计算设备上也可以运行着一个或多个虚拟机。计算设备110例如临床描述信息获取单元112、输入标识转换单元114、第一特征向量转换单元116、第二特征向量生成单元118、表型关键词确定单元120。临床描述信息获取单元112、输入标识转换单元114、第一特征向量转换单元116、第二特征向量生成单元118、表型关键词确定单元120可以配置在一个或者多个计算设备110上。

关于临床描述信息获取单元112，其用于获取临床描述信息。例如，获取待测对象的电子病例中的一个或多个临床描述信息。

关于第一特征向量转换单元116，其用于将临床描述信息中的每一句话分割成字或标点，以便将经分割的字或标点转换成对应的输入标识。

关于第二特征向量生成单元118，其用于经由第一神经网络模型的第一网络层，将输入标识转换为第一特征向量，第一神经网络模型包括由第一语言模型所构建的第一网络层、由第二语言模型所构建的第二网络层、以及第三网络层。

关于第二特征向量生成单元118，其用于经由第二网络层，生成第二特征向量，第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合。

关于表型关键词确定单元120，其用于基于第一特征向量和第二特征向量，经由第三网络层，确定临床描述信息的表型关键词。

以下将结合图2和图3描述根据本公开的实施例的用于确定临床描述信息的表型信息的方法。图2示出了根据本公开的实施例的用于确定临床描述信息的表型信息的方法200的流程图。图3示出了根据本公开的实施例的第一神经网络300的示意图。应当理解，方法200例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法200还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤202处，计算设备110获取临床描述信息。例如，计算设备110获取由生信服务器150所发送的待测对象的电子病例中的一个或多个临床描述信息。

在步骤204处，计算设备110将临床描述信息中的每一句话分割成字或标点，以便将经分割的字或标点转换成对应的输入标识。

例如，计算设备110通过第一神经网络模型的输入层将经分割的每一个字或标点转换成对应的输入标识。如图3所示，输入的整句的临床描述信息302为“主诉：矮小”。经由第一神经网络模型300的输入层，该临床描述信息302被分割成字或标点，即，被分割成：“主”、“诉”、“：”、“矮”、“小”；并且第一神经网络模型300的输入层还可以将经分割的每一个字或标点换成对应的输入标识。经分割的每一个字或标点换成对应的输入标识的方法例如包括多种。例如，计算设备110可以按照基于转换器的双向编码表征模型BidirectionalEncoder Representation from Transformers（BERT）模型的预先创建的字符集将分割后的每一个字或标点转换为一维的对应的输入标识，以便输入第一神经网络模型的第一网络层。

在步骤206处，计算设备110经由第一神经网络模型的第一网络层，将输入标识转换为第一特征向量，第一神经网络模型包括由第一语言模型所构建的第一网络层、由第二语言模型所构建的第二网络层、以及第三网络层。例如，计算设备110采用BERT模型所构建的第一网络层进行编码，针对经分割的每一个字或标点所对应的输入标识进行编码，以便得到768维的第一特征向量。

关于第一神经网络模型，其例如是以预训练语言模型（例如，基于BERT模型）作为网络主体架构，同时引入多算法融合的神经网络。例如，第一神经网络是基于在BERT基础上引入条件随机场模型（Conditional Random Field Algorithm，或简称为CRF）、dictionaryembedding、N-gram模型而构建的。例如，第一网络层例如是基于BERT模型（即，第一语言模型）所构建的，第二网络层例如是基于N-gram模型（即，第二语言模型）所构建的，第三网络层是基于条件随机场模型而构建的。在一些实施例中，第一网络层也可以是基于长短时记忆网络(Long Short Term Memory Network, LSTM) 或者卷积神经网络（ConvolutionalNeural Network, CNN）所构建的。第三网络层也可以是Softmax层。

以下将结合图3说明以预训练语言模型BERT作为网络主体架构的第一神经网络模型的架构。如图3所示，第一神经网络300例如由第一语言模型（BERT模型）所构建的第一网络层304、由第二语言模型（第二语言模型例如而不限于为N-gram模型）所构建的第二网络层306、以及第三网络层310（第三网络层例如而不限于是基于CRF而构建的）。第一网络层304例如用于将输入标识转换为第一特征向量（如图3所示的T1至T5）。第二网络层用于基于输入和预定关键词集合生成第二特征向量（如图3所示的G1至G5）。在一些实施例中，第一神经网络300还包括网络层308，该网络层308用于融合第一特征向量和第二特征向量, 以生成融合后特征向量。

应当理解，由BERT模型所构建的第一网络层304的嵌入（Embedding）层将每一个对应的输入标识转换为嵌入向量。该嵌入向量是经由将标志嵌入向量（Token Embeddings）、句子嵌入向量（Segment Embeddings）和位置嵌入向量（Position Embeddings）求和而生成的。其中标志嵌入向量用于表征字向量，例如，如果当前字符为起始字符，则标志嵌入向量被记为[CLS]。第一网络层304的输入可以是单句或者句对所对应的输入标识。句子嵌入向量用于表征句对中的两个句子。例如可以通过标记符[SEP] 针对不同的句子进行分隔。同一个句子的句子嵌入向量是共享的，对于单句所对应的输入标识，则只有一种句子嵌入向量。通过采用上述手段，本公开针对临床描述信息的学习能够考虑字符的位置、与句间关系等，因此能够更为准确地学习临床描述信息。

关于用于训练第一神经网络的多样本，其例如是经由人工标注多个（例如而不限于是6000多个）临床病例而形成的关于临床描述信息的训练数据集。标注方法例如采用命名实体（BIEOS）标注法逐字标注。在BIEOS标注法中，B表示这个字处于一个实体的开始（Begin）， I 表示内部（inside）， O 表示外部（outside），E 表示这个字处于一个实体的结束， S 表示这个字是自身就可以组成一个实体（Single）。诸如，针对图3所示的临床描述信息302 “主诉：矮小”， 经由人工标注的对应标签为：O,O,O,B,E。

以下表1示意性示出了第一神经网络模型的部分网络参数。其余未示出的网络参数例如均为默认值。

在步骤208处，计算设备110经由第二网络层，生成第二特征向量，第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合。例如，计算设备110基于第二网络层和预定关键词集合，生成第二特征向量。预定关键词集合例如为Dictionary Eembedding，其例如包括：由OMIM（Online MendelianInheritance in Man）数据库中疾病英文名称经由翻译而生成的疾病中文名称、常见疾病名称及其缩写、RefGene数据库中的基因的名称。其中，RefGene数据库是从UCSC数据库创建而来。RefGene指定了取自NCBI RNA参考序列集合（RefSeq）的已知人类蛋白质编码和非蛋白质编码的基因。

关于第二网络层，其例如是基于N-Gram模型所构建的。N-Gram是一种基于统计的语言模型，其例如将输入的临床描述信息中的内容按照字节进行大小为N的滑动窗口操作，形成了长度是N的字节片段序列（或短语）。每一个字节片段称为gram，对所有gram的出现频度进行统计，并且按照事先设定好的阈值进行过滤，形成对应于输入的临床描述信息的向量特征空间，每一种gram就是一个特征向量维度。例如，分别设置N-gram长度为1~6，分别表示输入的临床描述信息中的每个字与周边字构成预定长度的短语，并根据该短语是否出现在预定关键词集合（例如为Dictionary Eembedding）中而生成21维one-hot向量，其中“1”指示该所构成的短语在预定关键词集合中出现过，“0”指示该所构成的短语在预定关键词集合中未出现过。

在步骤210处，计算设备110基于第一特征向量和第二特征向量，经由第三网络层，确定临床描述信息的表型关键词。第三网络层例如而不限于是基于条件随机场(Conditional Random Fields, 以下简称CRF)所构建的。在一些实施例中，第三网络层例如采用线性链条件随机场模型来构建。以下结合公式（1）来说明第三网络层计算每个位置的条件概率的方式。

在上述公式（1）中，t和s代表特征函数，其中t代表转移特征，s代表状态特征，x为观察变量，y为隐含变量。λ代表用于转移特征的系数，u代表用于状态特征的系数，i、l和k代表序号。

关于确定临床描述信息的表型关键词的方法，其例如包括：首先，计算设备110融合第一特征向量和第二特征向量，以便生成经融合的特征向量；针对经融合的特征向量进行降维，以使得经降维的特征向量的维度与标签的类别数目相一致；经由第三网络层，提取经降维的特征向量的特征，以预测关于每一个经分割的字或标点的类别；以及基于所预测的关于每一个经分割的字或标点的类别，确定临床描述信息的表型关键词。

例如，计算设备110对于每一个经分割的字或符号，将经由步骤206处所转换的第一特征向量（例如768维特征向量）和经由步骤208处所得到生成第二特征向量（例如21维特征向量）进行融合，以便生成融合后特征向量，即新的789维特征向量。之后，计算设备110将融合后的特征向量降维至与标签的类别数目相一致的维度，如图3所示，针对输入的临床描述信息302 “主诉：矮小”， 其对应标签的类别数目为5，因此，融合后的789维特征向量被降维至5维的特征向量。然后，计算设备110经由第三网络层310，提取该5维的特征向量的特征，预测关于每一个经分割的字或标点的类别，例如为图3所示输出312，即“O”、“O”、“O”、“B”、“E”。之后，计算设备110例如基于所预测的输出312和命名实体（BIEOS）标注法（其中，B表示这个字处于一个实体的开始“Begin”、O 表示外部“outside”, E 表示这个字处于一个实体的结束），则确定临床描述信息302的表型关键词320为 “矮小”（输入的临床描述信息302中的“矮”和“小”分别与图3所示的输出312中的类别中的“B”、“E”相对应）。

在上述方案中，通过将所获取的临床描述信息中、经分割的字或标点转换成对应的输入标识；并经由第一神经网络模型的第一网络层和第二网络层分别生成第一特征向量和第二特征向量；以及基于第一特征向量和第二特征向量，经由第一神经网络模型的第三网络层来确定临床描述信息的表型关键词。本公开可以经由第一神经网络来自动提取所获取的临床描述信息的表型关键词，因而能够更加快速地进行表型关键词的提取，避免了因人工解读电子病历的表型信息而导致的低效率和主观差异性。另外，通过使得经由第二网络层所生成的第二特征向量用于指示临床描述信息中的每一句话中每一个字与周围字组成的短语是否属于预定关键词集合，本公开能够更容易捕获临床描述信息中上下文相关的字词、以及与预定关键词集合的关联等其他形式的信息，从而使得所确定的表型关键词更为精确。因而，本公开能够实现自动、快速、准确地确定临床描述信息的表型信息。

在一些实施例中，方法200还包括用于确定与临床描述信息的表型相关联的基因的方法400。图4示出了根据本公开的实施例的用于确定与临床描述信息的表型相关联的基因的方法400的流程图。应当理解，方法400例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法400还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤402处，计算设备110基于所确定的表型关键词，针对候选基因进行排序，以便生成关于候选基因的排序信息。例如，计算设备110基于所确定的表型关键词针对所有候选基因分别确定评估值，然后比较关于候选基因的评估值，基于候选基因的评估值针对候选基因进行排序。例如：所确定的表型关键词分别是“出生后右眼青光眼”、“全身咖啡斑病变”、“神经纤维瘤”，所确定的候选基因例如为：“NF1”、“NF2”、 “SPRED1”，所计算的候选基因 “NF1” 的评估值例如为“1”、候选基因 “NF2” 的评估值例如为“0.8563”、候选基因“SPRED1” 的评估值例如为“0.7428”。应当理解，候选基因的评估值越高则代表该候选基因相关的表型与患者的临床表型相似度越高。因而，计算设备110例如按照候选基因的评估值递减顺序确定的候选基因的排序信息例如是：候选基因 “NF1”、“NF2”、 “SPRED1”分别排序第1、2、3。关于基于所确定的表型关键词来针对候选基因进行排序的方法可以包括多种。例如，包括以下步骤：

首先，计算设备110确认候选基因和对应综合征。例如，计算设备110在OMIM数据库中确定有明确对应综合征的基因为候选基因；以及在OMIM数据库中确定有明确对应基因的综合征为对应综合征。其中，候选基因与对应综合征例如为多对多的关系。

其次，计算设备110提取每一个对应综合征的表型。例如，计算设备110根据人类表型术语集HPO（Human Phenotype Ontology）的官网提供的phenotype annotation文件，提取出每个对应综合征所对应的表型。

之后，计算设备110经由第二神经网络模型，计算临床描述信息的表型关键词与对应综合征的表型之间的相似度。关于第二神经网络模型，其例如是基于由BERT模型所形成的孪生神经网络而构建的。关于计算临床描述信息的表型关键词与对应综合征的表型之间的相似度的方法，其例如包括：针对临床描述信息中的表型关键词和对应综合征的表型分别进行预处理，以便生成第一表型输入标识和第二表型输入标识；将第一表型输入标识编码为第三特征向量，第三特征向量与临床描述信息的表型关键词的所有字符相对应；基于第三特征向量生成第一对应编码；基于第四特征向量生成第二对应编码；以及计算第一对应编码和第二对应编码的夹角的余弦，以便得到临床描述信息的表型关键词与对应综合征的表型之间的相似度。下文将结合图5详细说明用于计算临床描述信息的表型关键词与对应综合征的表型之间的相似度的方法，在此，不再赘述。

再者，计算设备110基于所计算的相似度，针对候选基因进行排序，以便生成关于候选基因的排序信息。应当理解，一个临床案例或者临床描述信息中往往含有多个表型关键词，同时一个基因或者对应综合征往往也会导致多种不同的表型。因此，需要一个综合计算方法来确定最终单个候选基因的排名，例如基于候选基因的评估值来针对候选基因排序。关于确定最终单个候选基因的评估值的方法，下文将结合图10详细说明，在此，不再赘述。

在步骤404处，计算设备110基于候选基因的排序信息，确定与临床描述信息的表型相关联的基因。例如，计算设备110基于候选基因的排序信息选取排名靠前的一个或者多个候选基因作为与临床描述信息的表型相关联的基因。例如，针对则所生成的候选基因的排序信息例如是：候选基因 “NF1”、“NF2”、 “SPRED1”分别排序第1、2、3。则选取排名靠前的一个候选基因“NF1”作为与临床描述信息的表型关键词相关联的基因。

在上述方案中，本公开能够自动、快速并准确地选取与临床描述信息的表型相匹配的关联基因，而避免了因人工匹配与表型相匹配的关联基因而导致的效率低下和容易发生错误。

以下将结合图5和图6说明用于计算临床描述信息的表型关键词与对应综合征的表型之间的相似度的方法500。图5示出了根据本公开的实施例的用于计算临床描述信息的表型关键词与对应综合征的表型的相似度的方法500的流程图。图6示意性示出了根据本公开实施例所示出的第二神经网络模型600的示意图。应当理解，方法500例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法500还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤502处，计算设备110针对临床描述信息的表型关键词和对应综合征的表型分别进行预处理，以便生成第一表型输入标识和第二表型输入标识。应当理解，电子病例中的临床描述信息通常由医生所表述，因此，其可能使用标准术语，也可能使用口语化的表述，因此经由第一神经网络模型所确定的临床描述信息中的表型关键词也可能是标准术语，例如“心脏形态异常”，也可能是口语描述，例如“心脏变大”。如前文描述，对应综合征的表型例如是根据人类表型术语集HPO的官网提供的phenotype annotation文件所提取的表型，因此，对应综合征的表型通常为标准术语，例如“心脏形态异常”。

如图6所示，第一表型输入标识602例如是按照基于BERT模型的预先创建的字符集将临床描述信息的表型关键词经分割后的每一个字或标点转换而生成的，第二表型输入标识612例如是按照基于BERT模型的预先创建的字符集将对应综合征的表型经分割后的每一个字或标点转换而生成的。第一表型输入标识602例如与临床描述信息的表型关键词的所有字符相对应。第二表型输入标识612例如与对应综合征的表型的所有字符相对应。如图6所示，第一表型输入标识602和第二表型输入标识612用于分别输入第二神经网络模型600的第一BERT网络层604和第二BERT网络层614。

关于第二神经网络模型，其用于计算临床描述信息中的表型关键词和对应综合征的表型之间的相似度。第二神经网络模型例如是基于BERT模型所构建的孪生神经网络（Siamese Network）。如图6所示，第二神经网络模型600例如而不限于包括：第一BERT网络层604、第一池化层606、第二BERT网络层614、第二池化层616和相似度计算网络层620。

关于第二神经网络模型600的训练样本，其例如是多个经标注的语料样本。语料样本例如是经由人工提取的临床描述信息的表型关键词。对于每一个表型关键词，例如从预定数据集合（例如而不限于为中文人类表型标准术语联盟“CHPO”数据库）标准术语中筛选出最相近的一个或多个表型，以作为人工提取的临床描述信息的表型关键词所对应的CHPO标准术语。例如，以下表2示意性示出了人工提取的临床描述信息的表型关键词与CHPO标准术语之间的对应关系。

关于第二神经网络模型的训练方法，例如可以采用两步Fine-tuning的方法。第一步为非监督训练，主要实现标准术语之间的相似度计算，第二步为监督训练，主要实现，关联的口语描述与标准术语之间的相似度计算。下文将结合图7至图9具体说明第二神经网络模型的训练方法。在此，不再赘述。

关于第二神经网络模型的损失函数，其例如为以下公式（2）所示。

在上述公式（2）中，loss代表第二神经网络模型的损失函数。object_sim代表第二神经网络模型的训练目标值，cosine_sim代表经由基于孪生神经网络结构所构建的第二神经网络模型600所计算出的第一输入（例如，第一表型输入标识602）和第二输入（例如，第二表型输入标识612）的相似度。

以下表3示意性示出了第二神经网络模型的部分网络参数。其余未示出的网络参数例如均为默认值。

在步骤504处，计算设备110经由第一BERT网络层604，将第一表型输入标识602编码为第三特征向量605，第三特征向量605与临床描述信息的表型关键词的所有字符相对应。第三特征向量605例如为768维向量。

在步骤506处，计算设备110经由第二BERT网络层614，将第二表型输入标识612编码为第四特征向量615。第四特征向量615与对应综合征的表型的所有字符相对应。第四特征向量615例如为768维向量。

在步骤508处，计算设备110经由第一池化层，基于第三特征向量，生成第一对应编码。例如，第一BERT网络层604的输出（即，第三特征向量605）输入第一池化层606，经由第一池化层606将768维的第三特征向量605取平均值，以便得到与表型关键词的所有字符相对应第一对应编码608。

在步骤510处，计算设备110经由第二池化层，基于第四特征向量，生成第二对应编码。例如，第二BERT网络层614的输出（即，第四特征向量615）输入第二池化层616，经由第二池化层616将768维的第四特征向量615取平均值，得到与对应综合征的表型的所有字符相对应形成第二对应编码618。

关于第一池化层606或第二池化层616，其例如分别采用mean-pooling的方法所构建，以下结合公式（3）说明第一池化层606和第二池化层616的计算方式。

在上述公式（3）中， Vi代表第i位置处，BERT网络层的输出向量，x代表第一池化层606或第二池化层616的输出。

在步骤512处，计算设备110经由相似度计算网络层620，计算第一对应编码608和第二对应编码618的夹角的余弦，以便得到临床描述信息的表型关键词与对应综合征的表型的相似度620。

在一些实施例中，相似度计算网络层620的计算方式例如如以下公式（4）所示。

在上述公式（4）中， x代表第一池化层输出的特征向量。y代表第二池化层输出的特征向量。

在上述方案中，本公开通过第二神经网络模型，将两个表型之间相似性的问题转换成回归性问题，因而能够更为快速并准确地确定临床描述信息的表型关键词和对应综合征的表型这两个表型之间的相似度。

以下结合图7至图9说明第二神经网络模型的训练方法700。图7示出了根据本公开的实施例的第二神经网络模型的训练方法700的流程图。应当理解，方法700例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法700还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤702处，计算设备110针对预定标准术语集合中的多个标准术语，计算标准术语之间的相似度，以用于针对第二神经网络模型进行非监督训练。例如，计算设备110将预定标准术语集合按照各个标准术语间的相似度，映射到多维空间中；以及随机抽取两个标准术语，以便计算出两个标准术语之间的相似度，以用于将所计算的两个标准术语之间的相似度作为训练的目标值而对第二神经网络模型进行训练。

例如，计算两个标准术语的预定表型标准术语树相似度（例如，中文人类表型标准术语联盟（CHPO）树相似度），并且将所计算的CHPO树相似度作为训练的目标值进行训练。预定表型标准术语树包括多个节点，该多个节点例如是处于不同深度的多级节点组，每一级节点组包括一个或多个节点，每一个节点代表一个表型标准术语（或称“标准术语”）。预定表型标准术语树相似度指示在预定表型标准术语树中不同表型标准术语之间的相似度，预定表型标准术语树相似度的大小与表型标准术语所对应的节点在预定表型标准术语树中的距离相关联。两个表型标准术语节点如果在标准术语树中的位置相邻，则表明该两个表型标准术语相似度高，如果两个表型标准术语节点如果在标准术语树中的位置越远，则表明该两个表型标准术语相似越低。CHPO树相似度是根据CHPO数据库中各表型标准术语之间关联关系而构建的。

CHPO树相似度本身具有树状结构，因此，表型的相似度应该满足树形结构。图8示出了根据本公开实施例的CHPO树结构800的示意图。在图8所示的CHPO树结构800中， “表型异常”节点例如作为一级节点810，其定义该节点的深度为1（depth=1）。深度为2（depth=2）的节点例如对应人体各个系统的二级节点，如：“神经系统异常”节点820、“肢体异常”节点822、“心血管系统异常”节点824等。深度大于2（例如depth=3、depth=4）的节点以此类推。例如“孤独症”节点和“自闭症行为”节点（未示出）具有公共的二级节点，即“神经系统异常”节点820，例如，“孤独症”节点和“自闭症行为”节点在CHPO树结构800中为相邻节点，因此二者的CHPO树相似度高，而“孤独症”节点和“多囊性肾发育不良”（未示出）节点分别关联有不同系统的二级节点，例如在CHPO树结构800中，二者的距离很远，因此“孤独症”和“多囊性肾发育不良”之间的CHPO树相似度很低。

以下结合公式（5）来说明用于计算任意的两个CHPO树结构800中的节点i和节点j之间CHPO树相似度的计算方法。

在上述公式（5）中，i代表第i个节点。j代表第j个节点。x代表节点i和节点j的最深公共父节点。depth

应当理解，本公开不仅仅以所计算的CHPO树相似度作为训练的目标值的方式进行非监督训练。也可以以其他方式计算的表型标准术语相似度作为训练的目标值的方式进行非监督训练。

在步骤704处，计算设备110针对相关联的口语描述和标准术语，计算口语描述和标准术语之间的相似度，以用于针对第二神经网络模型进行监督训练。例如，计算设备110以关联的口语表述和CHPO数据库的标准术语（或者称为“表型标准术语”），针对第二神经网络进行监督训练，以便生成经训练的第二神经网络。

在上述方案中，通过上述基于标准术语之间的非监督训练和基于关联的口语与标准术语之间的监督训练，使得第二神经网络模型可以更为准确地标准术语方式表达的临床描述信息的表型关键词与对应综合征的表型之间的相似度，也能够更为准确地口语表达的临床描述信息的表型关键词与对应综合征的表型之间的相似度。

下文将结合图9说明针对第二神经网络进行监督训练的方法。图9示出了根据本公开的实施例的用于针对第二神经网络进行监督训练的方法900的流程图。应当理解，方法900例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法900还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤902处，计算设备110在0和1之间随机生成第一随机数和第二随机数。

在步骤904处，计算设备110确定第一随机数是否小于第一预定阈值。

在步骤906处，如果计算设备110确定第一随机数小于第一预定阈值，针对作为第二神经网络模型的第一输入的口语描述和作为第二神经网络模型的第二输入的标准术语，确定第二神经网络模型的训练目标值为1。标准术语例如为CHPO数据库的表型标准术语。

在步骤908处，如果计算设备110确定第一随机数大于或者等于第一预定阈值，针对口语描述和标准术语，确定第二神经网络模型的训练目标值为口语描述所标注标准术语和作为第二输入的标准术语之间的预定表型标准术语树相似度，预定表型标准术语树包括多个节点，每一个节点对应一个标准术语，预定表型标准术语树相似度的大小与标准术语所对应的节点在预定表型标准术语树中的距离相关联。例如，如果确定第一随机数大于或者等于第一预定阈值，针对口语描述和CHPO标准术语，确定第二神经网络的训练目标值为口语描述所标注的标准术语和CHPO标准术语之间的CHPO树相似度。

在步骤910处，计算设备110确定第二随机数是否小于第二预定阈值。

如果计算设备110确定第二随机数小于第二预定阈值，在步骤912处，训练第二神经网络模型。

在步骤914处，如果计算设备110确定第二随机数大于或者等于第二预定阈值，使得口语描述作为第二神经网络模型的第二输入以及标准术语作为第二神经网络模型的第一输入，跳转至步骤912处，以用于训练第二神经网络模型。

在上述方案中，通过上述基于标准术语之间的非监督训练和基于关联的口语与标准术语之间的监督训练，使得第二神经网络模型可以更为准确地计算口语或术语方式表达的临床描述信息的表型关键词与对应综合征的表型的相似度。

下文将结合图10说明针对候选基因进行排序的方法。图10示出了根据本公开的实施例的用于针对候选基因进行排序的方法1000的流程图。应当理解，方法1000例如可以在图11所描述的电子设备1100处执行。也可以在图1所描述的计算设备110处执行。应当理解，方法1000还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

在步骤1002处，计算设备110基于对应综合征的多个表型和所确定的临床描述信息的多个表型关键词，确定关于对应综合征的相似度矩阵，相似度矩阵指示对应综合征的表型与临床描述信息的表型关键词之间的相似度。例如，所确定的候选综合征i对应有m个对应的CHPO表型，同时，临床描述信息中可提取出n个表型关键词，则对于候选综合征i，构建有相似度矩阵例如遵循以下表达式（6）。

在上述表达式（6）中，matrix

在步骤1004处，计算设备110基于关于每个对应综合征的相似度矩阵，确定关于每个对应综合征的评估值。以下结合公式（7）说明候选综合征的评估值的计算方式。

在上述表达式（7）中，syndrome_score

在步骤1006处，计算设备110基于关于对应综合征的评估值，确定关于候选基因的评估值，以便基于所确定的关于候选基因的评估值来针对候选基因进行排序。例如，候选基因x对应了n个对应综合征，分别为x1, x2, ..., xn，以下结合公式（8）说明候选综合征的评估值的计算方式。

在上述表达式（8）中，gene_score

图11示意性示出了适于用来实现本公开实施例的电子设备1100的框图。设备1100可以是用于实现执行图2、图4、图5、图7、图9和图10所示的方法200、400、500、700、900、1000的设备。如图11所示，设备1100包括CPU1101，其可以根据存储在只读存储器（ROM）1102中的计算机程序指令或者从存储单元1108加载到随机访问存储器（RAM）1103中的计算机程序指令，来执行各种适当的动作和处理。在RAM 1103中，还可存储设备1100操作所需的各种程序和数据。CPU 1101、ROM 1102以及RAM1103通过总线1104彼此相连。输入/输出（I/O）接口1105也连接至总线1104。

设备1100中的多个部件连接至I/O接口1105，包括：输入单元1106、输出单元1107、存储单元1108，CPU 1101执行上文所描述的各个方法和处理，例如执行方法200、400、500、700、900、1000。例如，在一些实施例中，方法200、400、500、700、900、1000可被实现为计算机软件程序，其被存储于机器可读介质，例如存储单元1108。在一些实施例中，计算机程序的部分或者全部可以经由ROM和/或通信单元1109而被载入和/或安装到设备1100上。当计算机程序加载到RAM并由CPU执行时，可以执行上文描述的方法200、400、500、700、900、1000的一个或多个操作。备选地，在其他实施例中，CPU可以通过其他任何适当的方式（例如，借助于固件）而被配置为执行方法200、400、500、700、900、1000的一个或多个动作。

需要进一步说明的是，本公开可以是方法、装置、系统和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子（非穷举的列表）包括：便携式计算机盘、硬盘、随机存取存储器（RAM）、只读存储器（ROM）、可擦式可编程只读存储器（EPROM或闪存）、静态随机存取存储器（SRAM）、便携式压缩盘只读存储器（CD-ROM）、数字多功能盘（DVD）、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波（例如，通过光纤电缆的光脉冲）、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构（ISA）指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，该编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机（例如利用因特网服务提供商来通过因特网连接）。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列（FPGA）或可编程逻辑阵列（PLA），该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、设备（系统）、和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给语音交互装置中的处理器、通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的设备、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，该模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

以上仅为本公开的可选实施例，并不用于限制本公开，对于本领域的技术人员来说，本公开可以有各种更改和变化。凡在本公开的精神和原则之内，所作的任何修改、等效替换、改进等，均应包含在本公开的保护范围之内。