CN113722431B - 命名实体关系识别方法、装置、电子设备及存储介质 - Google Patents
命名实体关系识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN113722431B CN113722431B CN202110973259.4A CN202110973259A CN113722431B CN 113722431 B CN113722431 B CN 113722431B CN 202110973259 A CN202110973259 A CN 202110973259A CN 113722431 B CN113722431 B CN 113722431B
- Authority
- CN
- China
- Prior art keywords
- named entity
- model
- relation
- entity relation
- remote
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000002787 reinforcement Effects 0.000 claims abstract description 132
- 239000003795 chemical substances by application Substances 0.000 claims description 149
- 239000013598 vector Substances 0.000 claims description 74
- 238000012549 training Methods 0.000 claims description 66
- 230000006870 function Effects 0.000 claims description 29
- 239000003623 enhancer Substances 0.000 claims description 17
- 238000004590 computer program Methods 0.000 claims description 14
- 230000009471 action Effects 0.000 claims description 11
- 238000002372 labelling Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 description 12
- 238000004891 communication Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000003058 natural language processing Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Machine Translation (AREA)
Abstract
本发明提供一种命名实体关系识别方法、装置、电子设备及存储介质。所述方法包括：获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成。本发明通过经过对比学习训练的命名实体关系识别模型进行命名实体关系识别，可以有效去除远程监督产生的噪音，降低所收集的命名实体关系结果的不确定性。
Description
技术领域
本发明涉及计算机技术领域，尤其涉及一种命名实体关系识别方法、装置、电子设备及存储介质。
背景技术
在自然语言处理中，信息抽取能够快速、准确地从大型语料库中发现有价值的信息，提高自然语言处理的效率。
信息抽取包括概念抽取与关系抽取两方面，关系抽取的目标是自动识别相关三元组，该三元组由一对实体概念及其之间的关系构成。现有的关系抽取方法是利用容易获得的间接监督知识——通常将其称为远程监督。远程监督是将已有的知识库对应到丰富的非结构化数据中(例如医疗文本)生成大量的训练数据，通过训练一个关系抽取器来预测实体对的关系类型。远程监督提出这样的假设：如果一个句子中含有一个关系涉及的实体对，那这个句子就是描述的这个关系。然而这种假设会产生大量噪音，使得所收集的命名实体关系结果有较高的不确定性。
发明内容
本发明提供一种命名实体关系识别方法、装置、电子设备及存储介质。用以解决现有技术中无法有效降低远程监督在进行实体关系抽取时产生的噪音的缺陷，实现在无人工标注情况下可以快速收集大量准确的实体关系抽取数据集。
本发明提供一种命名实体关系识别方法，包括：
获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
根据本发明提供的一种命名实体关系识别方法，包括：
基于标注好的小型知识图谱，对预设知识库中的文本标注命名实体关系标签，构建远程标记命名实体关系数据集。
根据本发明提供的一种命名实体关系识别方法，包括：
所述交差熵代价函数j(θ)为：
其中，yi为强化学习代理选择标签，a为动作，si为状态。
根据本发明提供的一种命名实体关系识别方法，包括：
所述对比学习关系增强子模型训练的损失函数为：
其中，tA和tB为通过线性采样的元组集，和为元组集，和为正样本的关系表示，X为正样本与负样本的余弦相似度，N为超参数，为从负样本集中采样的元组。
根据本发明提供的一种命名实体关系识别方法，包括：
所述关系分类器训练的损失函数j(θ)为：
其中，Ω为与上次迭代所移除的假阳性命名实体关系实例中不同的部分，a为动作，s为状态，R为强化学习代理子模型的奖励参数。
本发明还提供一种命名实体关系识别装置，包括：
处理模块，用于获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
根据本发明提供的一种命名实体关系识别装置，所述交差熵代价函数j(θ)为：
其中，yi为强化学习代理选择标签，a为动作，si为状态。
本发明还提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如上述任一种所述命名实体关系识别方法的步骤。
本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现如上述任一种所述命名实体关系识别方法的步骤。
本发明还提供一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现如上述任一种所述命名实体关系识别方法的步骤。
本发明提供的命名实体关系识别方法、装置、电子设备及存储介质，通过将获取的目标文本输入至训练好的命名实体关系识别模型中，即可得到准确的命名实体关系识别结果。其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。由此可知，本发明基于对比学习的思想对实体关系进行增强，使模型具有理解上下文语义信息和实体类型的能力，从而去除远程监督产生的噪音，降低所收集的命名实体关系结果的不确定性。可见，本发明在无人工标注情况下可以快速收集大量实体关系抽取数据集，减少所收集关系数据集的不确定性，为下游训练关系分类器、扩充数据集等任务提供数据帮助。
附图说明
为了更清楚地说明本发明或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明提供的命名实体关系识别方法的流程示意图之一；
图2是本发明提供的命名实体关系识别方法的流程示意图之二；
图3是本发明提供的命名实体关系识别装置的结构示意图；
图4是本发明提供的电子设备的结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合本发明中的附图，对本发明中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
图1是本发明提供的命名实体关系识别方法的流程示意图之一，图2是本发明提供的命名实体关系识别方法的流程示意图之二。下面结合图1和图2描述本发明的命名实体关系识别方法，包括：
步骤101：获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
在本步骤中，以医疗文本为目标为本为例进行说明。首先获取目标文本，然后将目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果。其中，命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成。命名实体关系识别模型的训练过程为：首先利用来自外部知识库的远程监督在大规模未标记语料库上进行训练。可选的，外部知识库可以为中文维基百科和维基数据。具体的，利用命名实体识别工具进行命名实体识别，将这些实体提及以及维基百科的提及与超链接链接到维基数据项，从而获得每个实体的维基数据ID。不同实体之间的关系通过查询维基数据进行远程注释。然后将远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量。具体的，对于每个文档si，首先使用命名实体关系语言子模型对其进行编码并获得一系列隐藏状态对提到eij的连续令牌应用池化操作以获得医疗文本实体表示，注意eij可能在si中出现多次，eij的第k次出现，包含从索引到的标记，表示为为了聚合有关eij的所有信息，本发明将每次出现的所有表示平均为全局实体表示eij，并将两个实体eij1和eij2的最终表示连接起来作为它们的关系表示，从而得到用于表征命名实体关系的词向量，例如：
在本步骤中，由于经远程监督得到的远程标记命名实体关系数据集中存在大量噪声，而本发明考虑真正的正样本(阳性命名实体关系实例)与远程标记命名实体关系数据集中的假阳性样本相比应该在数量上有明显的优势，因此，对于特定的关系类型，本发明利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，并基于交差熵代价函数训练一个二元分类器，也即强化学习代理子模型，以使训练后的强化学习代理子模型具有对明显的假阳性命名实体关系实例的识别能力。
在本步骤中，在得到用于表征命名实体关系的词向量后，首先对词向量对应的命名实体的实体类型分别进行标注，然后将其输入至训练好的强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集。可以理解的是，此时的远程标记命名实体关系数据集不包含明显的假阳性命名实体关系实例，但仍然包含少数强化学习代理子模型无法识别的错误标记命名实体关系实例。对此，为了使强化学习代理子模型能够更好的理解上下文信息以及实体的类型，提高对错误标记实例的识别能力，本发明采用对比学习的思想，通过拉近“邻居”，拉远“非邻居”对实体关系进行增强。具体的，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量。其中，对比学习关系增强子模型用于进一步将远程标记命名实体关系数据集中的假阳性命名实体关系实例进行剔除。
在本步骤中，对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的。具体的，首先对元组进行采样和其中rA＝rB，sA表示句子，表示实体1，表示实体2，rA表示两个实体的关系。将训练好的的强化学习代理子模型筛选出的假阳性命名实体关系实例作为负样本，剩余的实例作为正样本，并通过不断优化对比学习关系增强子模型的损失函数，直至对比学习关系增强子模型能够训练出更好的表示实体关系的词向量。由此在强化学习每一轮的迭代中，通过更新词向量，使得强化学习代理子模型在下一步的迭代中将上下文和实体类型作为学习依据，进一步提高强化学习代理子模型对错误标记实例的识别能力。
在本步骤中，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理子模型，从而输出去除噪音的远程标记命名实体关系数据集。具体的，为了进一步评估强化学习代理子模型的一系列动作，本发明采用一个简单的卷积神经网络，将卷积神经网络关系分类的性能作为强化学习代理奖励参数的依据，当计算得到的奖励参数完成收敛时，结束强化学习代理子模型的优化。
由此可见，本发明提出了一种基于对比学习的命名实体关系识别方法，利用对比学习的思想对实体关系进行增强，并将上下文语义和实体类型考虑到关系的表示中。针对远程监督产生的大量不确定性，提出了一种基于强化学习的实例选择器来筛选关系数据集中的噪音关系标签。通过该方法的实践和应用，在无人工标注情况下可以快速收集大量医疗关系抽取数据集，减少所收集关系数据集的不确定性，为下游训练关系分类器、扩充数据集等任务提供数据帮助。利用这些医疗关系可以建立庞大的医疗知识图谱，帮助医生更好的梳理病例，辅助医生及时把控病人的状态。
本发明提供的命名实体关系识别方法，通过将获取的目标文本输入至训练好的命名实体关系识别模型中，即可得到准确的命名实体关系识别结果。其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。由此可知，本发明基于对比学习的思想对实体关系进行增强，使模型具有理解上下文语义信息和实体类型的能力，从而去除远程监督产生的噪音，降低所收集的命名实体关系结果的不确定性。可见，本发明在无人工标注情况下可以快速收集大量实体关系抽取数据集，减少所收集关系数据集的不确定性，为下游训练关系分类器、扩充数据集等任务提供数据帮助。
基于上述实施例的内容，在本实施例中，所述根据预设知识库的远程监督，构建远程标记命名实体关系数据集，包括：
基于标注好的小型知识图谱，对预设知识库中的文本标注命名实体关系标签，构建远程标记命名实体关系数据集。
基于上述实施例的内容，在本实施例中，所述交差熵代价函数j(θ)为：
其中，yi为强化学习代理选择标签，a为动作，si为状态。
基于上述实施例的内容，在本实施例中，所述对比学习关系增强子模型训练的损失函数为：
其中，tA和tB为通过线性采样的元组集，和为元组集，和为正样本的关系表示，Z为正样本与负样本的余弦相似度，N为超参数，为从负样本集中采样的元组。
基于上述实施例的内容，在本实施例中，所述关系分类器训练的损失函数j(θ)为：
其中，Ω为与上次迭代所移除的假阳性命名实体关系实例中不同的部分，a为动作，s为状态，R为强化学习代理子模型的奖励参数。
下面对本发明提供的命名实体关系识别装置进行描述，下文描述的命名实体关系识别装置与上文描述的命名实体关系识别方法可相互对应参照。
如图3所示，本发明提供的一种命名实体关系识别装置，包括：
处理模块，用于获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
在本实施例中，首先获取目标文本，然后将目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果。其中，命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成。命名实体关系识别模型的训练过程为：首先利用来自外部知识库的远程监督在大规模未标记语料库上进行训练。可选的，外部知识库可以为中文维基百科和维基数据。具体的，利用命名实体识别工具进行命名实体识别，将这些实体提及以及维基百科的提及与超链接链接到维基数据项，从而获得每个实体的维基数据ID。不同实体之间的关系通过查询维基数据进行远程注释。然后将远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量。具体的，对于每个文档si，首先使用命名实体关系语言子模型对其进行编码并获得一系列隐藏状态对提到eij的连续令牌应用池化操作以获得医疗文本实体表示，注意eij可能在si中出现多次，eij的第k次出现，包含从索引到的标记，表示为为了聚合有关eij的所有信息，本发明将每次出现的所有表示平均为全局实体表示eij，并将两个实体eij1和eij2的最终表示连接起来作为它们的关系表示，从而得到用于表征命名实体关系的词向量，例如：
在本实施例中，由于经远程监督得到的远程标记命名实体关系数据集中存在大量噪声，而本发明考虑真正的正样本(阳性命名实体关系实例)与远程标记命名实体关系数据集中的假阳性样本相比应该在数量上有明显的优势，因此，对于特定的关系类型，本发明利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，并基于交差熵代价函数训练一个二元分类器，也即强化学习代理子模型，以使训练后的强化学习代理子模型具有对明显的假阳性命名实体关系实例的识别能力。
在本实施例中，在得到用于表征命名实体关系的词向量后，首先对词向量对应的命名实体的实体类型分别进行标注，然后将其输入至训练好的强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集。可以理解的是，此时的远程标记命名实体关系数据集不包含明显的假阳性命名实体关系实例，但仍然包含少数强化学习代理子模型无法识别的错误标记命名实体关系实例。对此，为了使强化学习代理子模型能够更好的理解上下文信息以及实体的类型，提高对错误标记实例的识别能力，本发明采用对比学习的思想，通过拉近“邻居”，拉远“非邻居”对实体关系进行增强。具体的，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量。其中，对比学习关系增强子模型用于进一步将远程标记命名实体关系数据集中的假阳性命名实体关系实例进行剔除。
在本实施例中，对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的。具体的，首先对元组进行采样和其中rA＝rB，sA表示句子，表示实体1，表示实体2，rA表示两个实体的关系。将训练好的的强化学习代理子模型筛选出的假阳性命名实体关系实例作为负样本，剩余的实例作为正样本，并通过不断优化对比学习关系增强子模型的损失函数，直至对比学习关系增强子模型能够训练出更好的表示实体关系的词向量。由此在强化学习每一轮的迭代中，通过更新词向量，使得强化学习代理子模型在下一步的迭代中将上下文和实体类型作为学习依据，进一步提高强化学习代理子模型对错误标记实例的识别能力。
在本实施例中，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理子模型，从而输出去除噪音的远程标记命名实体关系数据集。具体的，为了进一步评估强化学习代理子模型的一系列动作，本发明采用一个简单的卷积神经网络，将卷积神经网络关系分类的性能作为强化学习代理奖励参数的依据，当计算得到的奖励参数完成收敛时，结束强化学习代理子模型的优化。
本发明提供的命名实体关系识别装置，通过将获取的目标文本输入至训练好的命名实体关系识别模型中，即可得到准确的命名实体关系识别结果。其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。由此可知，本发明基于对比学习的思想对实体关系进行增强，使模型具有理解上下文语义信息和实体类型的能力，从而去除远程监督产生的噪音，降低所收集的命名实体关系结果的不确定性。可见，本发明在无人工标注情况下可以快速收集大量实体关系抽取数据集，减少所收集关系数据集的不确定性，为下游训练关系分类器、扩充数据集等任务提供数据帮助。
图4示例了一种电子设备的实体结构示意图，如图4所示，该电子设备可以包括：处理器(processor)410、通信接口(Communications Interface)420、存储器(memory)430和通信总线440，其中，处理器410，通信接口420，存储器430通过通信总线440完成相互间的通信。处理器410可以调用存储器430中的逻辑指令，以执行命名实体关系识别方法，该方法包括：获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
此外，上述的存储器430中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面，本发明还提供一种计算机程序产品，所述计算机程序产品包括计算机程序，计算机程序可存储在非暂态计算机可读存储介质上，所述计算机程序被处理器执行时，计算机能够执行上述各方法所提供的命名实体关系识别方法，该方法包括：获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
又一方面，本发明还提供一种非暂态计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各方法提供的命名实体关系识别方法，该方法包括：获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束。
以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。
最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (6)
1.一种命名实体关系识别方法，其特征在于，包括：
获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
步骤1，根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
步骤2，将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
步骤3，对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
步骤4，将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
步骤5，将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束；
所述交差熵代价函数j(θ)为：
其中，yi为强化学习代理选择的标签，保留为1，去除为0，a为动作，si为状态，θ是代价损失参数，i是从1到总元组集个数的区间取值；
所述对比学习关系增强子模型训练的损失函数为：
其中，tA和tB为通过线性采样的元组集，和为元组集，和为正样本的关系表示，Z为正样本与负样本的余弦相似度，N为超参数，为从负样本集中采样的元组，为总元组集，tC是非线性采集的元组集；
所述关系分类器训练的损失函数j(θ)为：
其中，Ω为与上次迭代所移除的假阳性命名实体关系实例中不同的部分，a为动作，s为状态，R为强化学习代理子模型的奖励参数。
2.根据权利要求1所述的命名实体关系识别方法，其特征在于，所述根据预设知识库的远程监督，构建远程标记命名实体关系数据集，包括：
基于标注好的小型知识图谱，对预设知识库中的文本标注命名实体关系标签，构建远程标记命名实体关系数据集。
3.一种命名实体关系识别装置，其特征在于，包括：
处理模块，用于获取目标文本，将所述目标文本输入至命名实体关系识别模型中，得到命名实体关系识别结果；
其中，所述命名实体关系识别模型由命名实体关系语言子模型、强化学习代理子模型和对比学习关系增强子模型组成，所述命名实体关系识别模型基于以下步骤进行训练：
根据预设知识库的远程监督，构建远程标记命名实体关系数据集；
将所述远程标记命名实体关系数据集输入至命名实体关系语言子模型中，得到用于表征命名实体关系的词向量；所述命名实体关系语言子模型是指利用所述远程标记命名实体关系数据集和未标记语料库作为输入样本，以及利用表征命名实体关系的词向量作为输出样本，进行训练后得到的；
对所述词向量对应的命名实体的实体类型分别进行标注后，输入至强化学习代理子模型中，得到包含假阳性命名实体关系实例的远程标记命名实体关系数据集；其中，所述强化学习代理子模型是指利用阳性命名实体关系实例作为正样本，以及利用假阳性命名实体关系实例作为负样本，基于交差熵代价函数进行训练后得到的；
将包含假阳性命名实体关系实例的远程标记命名实体关系数据集输入至对比学习关系增强子模型中，得到命名实体关系增强的词向量；其中，所述命名实体关系增强的词向量用于更新所述强化学习代理子模型的状态属性，以增强所述强化学习代理子模型识别假阳性命名实体关系实例的能力；所述对比学习关系增强子模型是指利用强化学习代理子模型输出的假阳性命名实体关系实例作为负样本，以及强化学习代理子模型输出的除假阳性命名实体关系实例外的命名实体关系实例作为正样本，进行训练后得到的；
将所述强化学习代理子模型输出的远程标记命名实体关系数据集输入至关系分类器，根据关系分类器的当前性能不断优化强化学习代理模型，直至输出去除噪音的远程标记命名实体关系数据集，所述命名实体关系识别模型训练结束；
所述交差熵代价函数j(θ)为：
其中，yi为强化学习代理子模型选择标签，a为动作，si为状态，θ是代价损失参数，i是从1到总元组集个数的区间取值；
所述对比学习关系增强子模型训练的损失函数为：
其中，tA和tB为通过线性采样的元组集，和为元组集，和为正样本的关系表示，Z为正样本与负样本的余弦相似度，N为超参数，为从负样本集中采样的元组，为总元组集，tC是非线性采集的元组集；
所述关系分类器训练的损失函数j(θ)为：
其中，Ω为与上次迭代所移除的假阳性命名实体关系实例中不同的部分，a为动作，s为状态，R为强化学习代理子模型的奖励参数。
4.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至2任一项所述命名实体关系识别方法的步骤。
5.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至2任一项所述命名实体关系识别方法的步骤。
6.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至2任一项所述命名实体关系识别方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110973259.4A CN113722431B (zh) | 2021-08-24 | 2021-08-24 | 命名实体关系识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110973259.4A CN113722431B (zh) | 2021-08-24 | 2021-08-24 | 命名实体关系识别方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113722431A CN113722431A (zh) | 2021-11-30 |
| CN113722431B true CN113722431B (zh) | 2024-10-15 |
Family
ID=78677524
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110973259.4A Active CN113722431B (zh) | 2021-08-24 | 2021-08-24 | 命名实体关系识别方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113722431B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116776887B (zh) * | 2023-08-18 | 2023-10-31 | 昆明理工大学 | 一种基于样本相似性计算的负采样远程监督实体识别方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112183099A (zh) * | 2020-10-09 | 2021-01-05 | 上海明略人工智能(集团)有限公司 | 基于半监督小样本扩展的命名实体识别方法及系统 |
| CN112633001A (zh) * | 2020-12-28 | 2021-04-09 | 咪咕文化科技有限公司 | 文本命名实体识别方法、装置、电子设备及存储介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9971763B2 (en) * | 2014-04-08 | 2018-05-15 | Microsoft Technology Licensing, Llc | Named entity recognition |
-
2021
- 2021-08-24 CN CN202110973259.4A patent/CN113722431B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112183099A (zh) * | 2020-10-09 | 2021-01-05 | 上海明略人工智能(集团)有限公司 | 基于半监督小样本扩展的命名实体识别方法及系统 |
| CN112633001A (zh) * | 2020-12-28 | 2021-04-09 | 咪咕文化科技有限公司 | 文本命名实体识别方法、装置、电子设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113722431A (zh) | 2021-11-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107463607B (zh) | 结合词向量和自举学习的领域实体上下位关系获取与组织方法 | |
| CN112231447B (zh) | 一种中文文档事件抽取的方法和系统 | |
| CN111783394A (zh) | 事件抽取模型的训练方法、事件抽取方法和系统及设备 | |
| CN111274790B (zh) | 基于句法依存图的篇章级事件嵌入方法及装置 | |
| CN109062904B (zh) | 逻辑谓词提取方法和装置 | |
| CN112101031B (zh) | 一种实体识别方法、终端设备及存储介质 | |
| CN113705237B (zh) | 融合关系短语知识的关系抽取方法、装置和电子设备 | |
| CN107391565B (zh) | 一种基于主题模型的跨语言层次分类体系匹配方法 | |
| CN110377690B (zh) | 一种基于远程关系抽取的信息获取方法和系统 | |
| CN114265937A (zh) | 科技情报的智能分类分析方法、系统、存储介质及服务器 | |
| CN115759254A (zh) | 基于知识增强生成式语言模型的问答方法、系统及介质 | |
| CN114647713A (zh) | 基于虚拟对抗的知识图谱问答方法、设备及存储介质 | |
| CN113722431B (zh) | 命名实体关系识别方法、装置、电子设备及存储介质 | |
| CN113568969B (zh) | 信息抽取方法、装置、设备以及计算机可读存储介质 | |
| CN117828024A (zh) | 一种插件检索方法、装置、存储介质及设备 | |
| WO2016090625A1 (en) | Scalable web data extraction | |
| CN116680407A (zh) | 一种知识图谱的构建方法及装置 | |
| CN117131868A (zh) | 一种基于“表格-图”两阶段的面向文档级别实体关系联合抽取方法及装置 | |
| CN116595189A (zh) | 基于两阶段的零样本关系三元组抽取方法及系统 | |
| CN116049376A (zh) | 一种信创知识检索回复的方法、装置和系统 | |
| CN115496066A (zh) | 文本分析系统、方法、电子设备及存储介质 | |
| CN113962223B (zh) | 基于表示学习命名实体识别方法、系统、设备和存储介质 | |
| CN118069789B (zh) | 一种面向立法意见的关键信息抽取方法、系统及设备 | |
| CN113220855B (zh) | 基于it技术问答网站的计算机技术领域发展趋势分析方法 | |
| US20230162031A1 (en) | Method and system for training neural network for generating search string |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |