CN111078878A - 文本处理方法、装置、设备及计算机可读存储介质 - Google Patents
文本处理方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111078878A CN111078878A CN201911239505.2A CN201911239505A CN111078878A CN 111078878 A CN111078878 A CN 111078878A CN 201911239505 A CN201911239505 A CN 201911239505A CN 111078878 A CN111078878 A CN 111078878A
- Authority
- CN
- China
- Prior art keywords
- text
- classified
- classifier
- information
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003672 processing method Methods 0.000 title abstract description 36
- 238000012545 processing Methods 0.000 claims abstract description 89
- 238000000034 method Methods 0.000 claims abstract description 38
- 238000000605 extraction Methods 0.000 claims abstract description 24
- 230000015654 memory Effects 0.000 claims description 19
- 230000011218 segmentation Effects 0.000 claims description 10
- 238000007781 pre-processing Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 abstract description 11
- 230000000875 corresponding effect Effects 0.000 description 57
- 238000013461 design Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000013145 classification model Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000008520 organization Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/35—Clustering; Classification
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开公开了文本处理方法、装置、设备及计算机可读存储介质,涉及文本处理领域。具体实现方案为:获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
Description
技术领域
本公开涉及数据处理领域,尤其涉及一种文本处理技术。
背景技术
在针对用户产生内容进行分析的时候,常常会遇到一类问题,需要对用户产出的文本内容进行层次主题分类。实际应用中,许多业务场景中都会应用这一任务,如贴子分类、问题回答、广告投放、搜索结果组织等。
为了实现对内容数据的分类,现有技术中一般都是预先构建一分类树状结构,针对树状结构的叶子节点,分别构建不同的分类模型,采用每个分类模型对内容数据进行分类。
但是,用户产出的文本内容一般与自然语言有较大的差别,所使用的语言较为随意,Out Of Vocab现象较严重,因此,较为依赖于用户信息。故在采用上述方法进行内容数据的分类时,无法精准地对这类内容数据进行分类。
发明内容
本公开提供一种文本处理方法、装置、设备及计算机可读存储介质,用于解决现有的文本处理方法进行内容数据的分类时,无法精准地对这类内容数据进行分类。
第一方面,本公开实施例提供一种文本处理方法,包括:
获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
本实施例提供的文本处理方法,通过在特征提取过程中,添加用于表征用户发表文本信息时的惯用特征的用户特征,从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
在一种可能的设计中,所述获取终端设备输入的待分类数据之后,还包括:
对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,所述对所述待分类文本以及所述用户特征进行向量化处理,包括:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
本实施例提供的文本处理方法,通过在特征提取过程中,添加用于表征用户发表文本信息时的惯用特征的用户特征,从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
在一种可能的设计中,所述对所述待分类文本以及所述用户特征进行向量化处理,包括:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
本实施例提供的文本处理方法,通过采用Embedding的方式对待分类文本以及用户特征进行向量化处理,从而能够精准地得到待分类文本的基本粒度向量表示。
在一种可能的设计中,所述级联分类器中包括多层分类器,所述通过级联分类器对特征信息进行分类操作,包括:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
本实施例提供的文本处理方法,通过将上一层分类器的输出结果与特征信息一同输入至下一层分类器中,从而能够使下一层分类器在该分类结果下的子类别对特征信息进行再次分类操作,有效地提高了分类效率以及分类精准度。
在一种可能的设计中,所述依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息,包括:
将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
本实施例提供的文本处理方法,通过将上一层分类器的输出结果与特征信息一同输入至下一层分类器中,从而能够使下一层分类器在该分类结果下的子类别对特征信息进行再次分类操作,有效地提高了分类效率以及分类精准度。
在一种可能的设计中,所述通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息之后,还包括:
根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
本实施例提供的文本处理方法,通过根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中,从而能够在对待分类文本进行分类后,便于该该待处理文本的应用。
第二方面,本公开实施例提供一种文本处理装置,包括:
获取模块,用于获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
向量化处理模块,用于根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
特征提取模块,用于采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
分类模块,用于通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
在一种可能的设计中,所述装置还包括:
预处理模块,用于对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,所述向量化处理模块用于:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
在一种可能的设计中,所述向量化处理模块用于:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
在一种可能的设计中,所述级联分类器中包括多层分类器,所述分类模块用于:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
在一种可能的设计中,所述分类模块用于:
将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
在一种可能的设计中,所述装置还包括:
处理模块,用于根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
第三方面,本公开实施例提供一种文本处理设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面所述的方法。
第四方面,本公开实施例提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面所述的方法。
第五方面,本公开实施例提供一种文本处理方法,包括:
获取待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
本实施例提供的文本处理方法、装置、设备及计算机可读存储介质,通过在特征提取过程中,添加用于表征用户发表文本信息时的惯用特征的用户特征,从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开所基于的系统架构图;
图2为本公开实施例一提供的文本处理方法的流程示意图;
图3为本公开实施例提供的类别组织结构;
图4为本公开实施例二提供的文本处理方法的流程示意图;
图5为本公开实施例三提供的文本处理装置的结构示意图;
图6为本公开实施例四提供的文本处理设备的结构示意图;
图7为本公开实施例五提供的文本处理方法的流程示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
为了解决现有的文本处理方法进行内容数据的分类时,无法精准地对这类内容数据进行分类,本公开提供了一种文本处理方法、装置、设备及计算机可读存储介质。由于现有的文本处理方法没有考量到用户的个性化信息,从而导致分类结果不准确,因此,为了提高分类结果的准确性,可以在特征提取过程中,加入用户特征信息。
需要说明的是,本公开提供的文本处理方法、装置、设备及计算机可读存储介质能够应用在对任意一种文本分类的场景中。
图1为本公开所基于的系统架构图,如图1所示,本公开所基于的系统架构图至少包括多个终端设备1以及文本处理装置2,其中,文本处理装置2采用C/C++、Java、Shell或Python等语言编写;终端设备1则可例如台式电脑、平板电脑等。终端设备1与文本处理装置2通信连接,从而能够与终端设备进行信息交互。
图2为本公开实施例一提供的文本处理方法的流程示意图,如图2所示,所述方法包括:
步骤101、获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识。
本实施例的执行主体为文本处理装置,该文本处理装置与终端设备通信连接,从而能够与终端设备进行信息交互。终端设备可以获取需要进行分类的待分类数据。具体地,用户可以在终端设备上发表文本内容,相应地,终端设备在接收到该文本内容之后,可以实时将其发送至文本处理装置进行分类处理;可选地,文本处理装置也可以按照预设的周期,从终端设备中获取用户发表的文本内容,对其进行分类操作。相应地,文本处理装置可以从终端设备获取待分类数据。
需要说明的是,由于用户产出的文本内容一般与自然语言有较大的差别,所使用的语言较为随意,较为依赖用户信息,因此,为了提高待分类文本分类的精准性,待分类数据中除待分类文本之后,还可以携带有发表该待分类文本的用户的标识。
步骤102、根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息。
在本实施方式中,为了实现对用户特征的获取,可以预先建立包括大量用户特征的数据库,其中,用户特征能够表征用户在发表文本信息时的惯用特征等。相应地,获取到用户的标识之后,可以根据该用户的标识从该数据库中获取该用户对应的用户特征。
获取到待分类文本以及用户特征之后,即可以对待分类文本以及用户特征进行特征提取操作。相应地,在对其进行特征提取之前,为了方便模型处理,可以对待分类文本以及用户特征进行向量化处理,获得待分类文本以及用户特征对应的待处理向量信息。
具体地,在上述实施例的基础上,步骤102具体包括:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
在本实施例中,具体可以采用Embedding的方式对待分类文本以及用户特征进行向量化处理,得到待分类文本的基本粒度向量表示。其中,该基本粒度具体可以为词粒度,也可以为字粒度。即可以为对待分类文本进行分词处理,针对分词后的每个词组进行向量化处理,获得每个词组对应的词向量,也可以为不对待分类文本进行分词处理,直接对其进行向量化处理,获得字向量。本公开对此不做限制。
步骤103、采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息。
在本实施例中,获得待分类文本以及用户特征对应的待处理向量信息之后,可以获取待处理向量信息的特征信息。具体地,可以采用预设的特征提取模型对待处理向量信息进行处理,获得待处理向量信息对应的特征信息。需要说明的是,可以采用任一种能够进行特征提取的特征提取模型对待处理向量信息进行处理,例如CNN、RNN、LSTM、Transformer等,本公开对此不做限制。
作为一种可以实施的方式,由于不同的网络模型在任务处理上具有不同的优势,在接收到待分类数据之后,首先可以判断该待分类文本的特征,针对不同的特征,采用不同的网络模型进行特征提取。举例来说,CNN擅长提取相邻窗口的文本关系;LSTM能够获得长语句文本中的依赖信息;Transformer适用于Seq2Seq的任务,且BERT模型采用双向Transformer结构在多项NLP任务上取得了突破性进展。
步骤104、通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
在本实施方式中,图3为本公开实施例提供的类别组织结构,如图3所示,由于分类过程中,包括多个不同的类别层级,例如科技下二级分类(数码、互联网、数学、物理等)、三级分类(电视、手机等)、四级分类(全面屏手机、非全面屏手机等)。因此,为了能够实现对特征信息的精准分类,可以采用预设的级联分类器对特征信息进行分类操作,获得待分类文本对应的类别信息。
进一步地,在上述任一实施例的基础上,步骤104之后,还包括:
根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
在本实施例中,在对待分类文本进行分类操作之后,可以将其存储至该类别信息对应的存储路径中。从而后续在调用某一类别对应的文本信息时,可以直接从该类别对应的存储路径中获取全部的文本信息。
本实施例提供的文本处理方法,通过在特征提取过程中,添加用于表征用户发表文本信息时的惯用特征的用户特征,从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
进一步地,在上述任一实施例的基础上,步骤101之后,还包括:
对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,步骤102具体包括:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
在本实施例中,为了提高对待分类文本的分类效率,在对待分类文本进行分类操作之前,首先可以对其进行预处理。具体地,可以对待分类文本进行分词、去除标点符号以及编码化处理等,获得预处理后的待分类文本。相应地,后续可以对用户特征以及预处理后的待分类文本进行向量化处理,获得待处理向量信息。
本实施例提供的文本处理方法,通过在对待分类文本进行分类操作之前,首先对待分类文本进行预处理操作,从而能够去除待分类文本中的无用字符等,提高待分类文本的分类效率。
进一步地,在上述任一实施例的基础上,所述级联分类器中包括多层分类器,步骤104具体包括:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
在本实施例中,由于分类过程中,包括多个不同的类别层级,因此,可以采用包括多层分类器的级联分类器对特征信息进行分类操作。具体地,为了提高分类效率以及分类精度,可以将上一层输出的分类结果与特征信息一起输入至下一层分类器,从而下一层分类器即能够在该分类结果下的子类别对特征信息进行再次分类操作。举例来说,若第一层分类器输出的分类结果为“科技”,则可以将科技标签与特征信息一起输入至下一层分类器,相应地,下一层分类器即可在科技下的“数码、互联网、数学、物理等”多个子类别中对该特征信息进行分类操作。针对每一层分类器,均执行上述步骤,并将最后一层分类器输出的分类结果作为待分类文本对应的类别信息。若当前分类器为级联分类器中的第一个分类器,则可以仅将特征信息输入至该分类器中;若当前分类器为级联分类器中的第n个分类器,则可以将上一层分类器的分类结果以及特征信息输入至该分类器中。
需要说明的是,现有技术中一般都是预先构建一分类树状结构,针对树状结构的叶子节点,分别构建不同的分类模型,采用每个分类模型对内容数据进行分类。但是,采用上述方法进行内容数据的分类一方面依赖于对每层、每个子类别均需要训练一个模型来解决子类分类问题。如果主题树结构很深的情况下,很难训练出足够覆盖每个子类别的模型,严重影响分类效率,而通过本实施例提供的文本处理方法,无需针对每一子类别均训练一网络模型,从而一方面能够覆盖全部类型的文本信息,另一方面能够提高分类效率。
本实施例提供的文本处理方法,通过将上一层分类器的输出结果与特征信息一同输入至下一层分类器中,从而能够使下一层分类器在该分类结果下的子类别对特征信息进行再次分类操作,有效地提高了分类效率以及分类精准度。
图4为本公开实施例二提供的文本处理方法的流程示意图,在上述任一实施例的基础上,如图4所示,所述依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息,包括:
步骤201、将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
步骤202、将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
步骤203、判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
在本实施例中,获取到特征信息之后,可以将其输入至预设的第一层分类器中,获得该特征信息对应的第一类别标识,将该第一类别标识与特征信息一同输入至第二层分类器中,从而第二层分类器能够在第一类别标识下的多个子类别中对特征信息进行分类操作,获得特征信息对应的第二类别标识。将该第一类别标识与第二类别标识进行关联,获得目标类别标识。确定该第二类别标识下是否包括其他子类别,若包括,则可以继续采用后续的分类器对特征信息进行分类操作,若不包括,则可以将该第二类别标识作为待分类文本对应的类别信息。
以实际应用举例来说,第一层分类器输出的类别信息为科技,其具有多个子类别,则可以将“科技”标签与特征信息一同输入至第二层分类器,第二分类器在科技类别下的多个子类别“数码、互联网、数学、物理”中对特征信息进行分类,获得分类结果“数码”,在“数码”类别下的多个子类别继续对特征信息进行分类,获得分类结果“手机”,继续在“手机”类别下的多个子类别进行分类操作,获得最终输出分类结果全面屏手机。相应地,将多个类别标识进行关联,获得最终的特征信息“科技-数码-手机-全面屏手机”。
本实施例提供的文本处理方法,通过将上一层分类器的输出结果与特征信息一同输入至下一层分类器中,从而能够使下一层分类器在该分类结果下的子类别对特征信息进行再次分类操作,有效地提高了分类效率以及分类精准度。
图5为本公开实施例三提供的文本处理装置的结构示意图,如图5所示,所述文本处理装置30,包括:获取模块31、向量化处理模块32、特征提取模块33以及分类模块34。其中,获取模块31,用于获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;向量化处理模块32,用于根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;特征提取模块33,用于采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;分类模块,用于通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
进一步地,在实施例三的基础上,所述装置还包括:
预处理模块,用于对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,所述向量化处理模块用于:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
进一步地,在上述任一实施例的基础上,所述向量化处理模块用于:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
进一步地,在上述任一实施例的基础上,所述级联分类器中包括多层分类器,所述分类模块用于:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
进一步地,在上述任一实施例的基础上,所述分类模块用于:
将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
进一步地,在上述任一实施例的基础上,所述装置还包括:
处理模块,用于根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
根据本公开的实施例,本公开还提供了一种文本处理设备和一种可读存储介质。
图6为本公开实施例四提供的文本处理设备的结构示意图,如图6所示,是根据本公开实施例的文本处理方法的文本处理设备的框图。文本处理设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。文本处理设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图6所示,该文本处理设备包括:一个或多个处理器601、存储器602,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在文本处理设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个文本处理设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图6中以一个处理器601为例。
存储器602即为本公开所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本公开所提供的文本处理方法。本公开的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本公开所提供的文本处理方法。
存储器602作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块,如本公开实施例中的文本处理方法对应的程序指令/模块(例如,附图5所示的获取模块31、向量化处理模块32、特征提取模块33和分类模块34)。处理器601通过运行存储在存储器602中的非瞬时软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的文本处理方法。
存储器602可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据文本处理的文本处理设备的使用所创建的数据等。此外,存储器602可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器602可选包括相对于处理器601远程设置的存储器,这些远程存储器可以通过网络连接至文本处理的文本处理设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
文本处理方法的文本处理设备还可以包括:输入装置603和输出装置604。处理器601、存储器602、输入装置603和输出装置604可以通过总线或者其他方式连接,图6中以通过总线连接为例。
输入装置603可接收输入的数字或字符信息,以及产生与文本处理设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置604可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
图7为本公开实施例五提供的文本处理方法的流程示意图,如图5所示,所述方法包括:
步骤501、获取待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
步骤502、根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
步骤503、对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
步骤504、对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
本实施例提供的文本处理方法,通过在特征提取过程中,添加用于表征用户发表文本信息时的惯用特征的用户特征,从而能够在分类过程中考量用户特征的因素,提高文本分类的准确性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (15)
1.一种文本处理方法,其特征在于,包括:
获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
2.根据权利要求1所述的方法,其特征在于,所述获取终端设备输入的待分类数据之后,还包括:
对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,所述对所述待分类文本以及所述用户特征进行向量化处理,包括:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
3.根据权利要求1所述的方法,其特征在于,所述对所述待分类文本以及所述用户特征进行向量化处理,包括:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述级联分类器中包括多层分类器,所述通过级联分类器对特征信息进行分类操作,包括:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
5.根据权利要求4所述的方法,其特征在于,所述依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息,包括:
将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
6.根据权利要求1-3任一项所述的方法,其特征在于,所述通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息之后,还包括:
根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
7.一种文本处理装置,其特征在于,包括:
获取模块,用于获取终端设备输入的待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
向量化处理模块,用于根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
特征提取模块,用于采用预设的特征提取模型对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
分类模块,用于通过级联分类器对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
预处理模块,用于对所述待分类文本进行分词、去除标点符号以及编码化处理,获得预处理后的待分类文本;
相应地,所述向量化处理模块用于:
对所述预处理后的待分类文本以及所述用户特征进行向量化处理。
9.根据权利要求7所述的装置,其特征在于,所述向量化处理模块用于:
通过Embedding对所述待分类文本以及所述用户特征进行向量化处理。
10.根据权利要求7-9任一项所述的装置,其特征在于,所述级联分类器中包括多层分类器,所述分类模块用于:
依次将所述特征信息以及上一层分类器输出的分类结果输入至下一层分类器中,将最后一层分类器输出的结果作为所述待分类文本对应的类别信息。
11.根据权利要求10所述的装置,其特征在于,所述分类模块用于:
将所述特征信息输入至预设的第一层分类器,获得所述特征信息对应的第一类别标识;
将所述特征信息以及所述第一类别标识输入至预设的第二层分类器,所述第二分类器用于在所述第一类别标识下的子类别对所述特征信息进行分类操作,获得所述特征信息对应的第二类别标识,关联所述第一类别标识以及所述第二类别标识,获得目标类别标识;
判断所述第二类别标识下是否还包括其他子类别,若是,则将所述目标类别标识以及所述特征信息输入至下一层分类器进行分类操作,直至所述分类器输出的类别信息下不包括其他子类别。
12.根据权利要求7-9任一项所述的装置,其特征在于,所述装置还包括:
处理模块,用于根据所述待分类文本对应的类别信息将所述待分类文本存储至所述类别信息对应的存储路径中。
13.一种文本处理设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的方法。
15.一种文本处理方法,其特征在于,包括:
获取待分类数据,其中,所述待分类数据中包括待分类文本以及输入所述待分类文本的用户的标识;
根据所述用户的标识获取所述用户对应的用户特征,对所述待分类文本以及所述用户特征进行向量化处理,获得待处理向量信息;
对所述待处理向量信息进行处理,获得所述待处理向量信息对应的特征信息;
对特征信息进行分类操作,获得所述待分类文本对应的类别信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911239505.2A CN111078878B (zh) | 2019-12-06 | 2019-12-06 | 文本处理方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911239505.2A CN111078878B (zh) | 2019-12-06 | 2019-12-06 | 文本处理方法、装置、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111078878A true CN111078878A (zh) | 2020-04-28 |
CN111078878B CN111078878B (zh) | 2023-07-04 |
Family
ID=70313132
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911239505.2A Active CN111078878B (zh) | 2019-12-06 | 2019-12-06 | 文本处理方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111078878B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111581381A (zh) * | 2020-04-29 | 2020-08-25 | 北京字节跳动网络技术有限公司 | 文本分类模型的训练集合的生成方法、装置和电子设备 |
CN112257432A (zh) * | 2020-11-02 | 2021-01-22 | 北京淇瑀信息科技有限公司 | 一种自适应意图识别方法、装置及电子设备 |
CN112487295A (zh) * | 2020-12-04 | 2021-03-12 | 中国移动通信集团江苏有限公司 | 5g套餐推送方法、装置、电子设备及计算机存储介质 |
CN112802568A (zh) * | 2021-02-03 | 2021-05-14 | 紫东信息科技(苏州)有限公司 | 基于病历文本的多标签胃部疾病分类方法及装置 |
CN113139033A (zh) * | 2021-05-13 | 2021-07-20 | 平安国际智慧城市科技股份有限公司 | 文本处理方法、装置、设备及存储介质 |
CN113535951A (zh) * | 2021-06-21 | 2021-10-22 | 深圳大学 | 用于进行信息分类的方法、装置、终端设备及存储介质 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020107842A1 (en) * | 2001-02-07 | 2002-08-08 | International Business Machines Corporation | Customer self service system for resource search and selection |
CN101853250A (zh) * | 2009-04-03 | 2010-10-06 | 华为技术有限公司 | 对文档进行分类的方法及装置 |
JP2011154586A (ja) * | 2010-01-28 | 2011-08-11 | Rakuten Inc | 投稿文章分析装置、投稿文章分析方法、および、投稿文章分析装置用プログラム |
CN102684997A (zh) * | 2012-04-13 | 2012-09-19 | 亿赞普(北京)科技有限公司 | 一种通信报文的分类、训练方法和装置 |
CN103106211A (zh) * | 2011-11-11 | 2013-05-15 | 中国移动通信集团广东有限公司 | 客户咨询文本的情感识别方法及装置 |
CN108416616A (zh) * | 2018-02-05 | 2018-08-17 | 阿里巴巴集团控股有限公司 | 投诉举报类别的排序方法和装置 |
CN109543032A (zh) * | 2018-10-26 | 2019-03-29 | 平安科技(深圳)有限公司 | 文本分类方法、装置、计算机设备和存储介质 |
CN110147445A (zh) * | 2019-04-09 | 2019-08-20 | 平安科技(深圳)有限公司 | 基于文本分类的意图识别方法、装置、设备及存储介质 |
CN110309306A (zh) * | 2019-06-19 | 2019-10-08 | 淮阴工学院 | 一种基于wsd层级记忆网络的文档建模分类方法 |
CN110334216A (zh) * | 2019-07-12 | 2019-10-15 | 福建省趋普物联科技有限公司 | 一种垃圾文本识别方法及系统 |
CN110503054A (zh) * | 2019-08-27 | 2019-11-26 | 广东工业大学 | 文本图像的处理方法及装置 |
-
2019
- 2019-12-06 CN CN201911239505.2A patent/CN111078878B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020107842A1 (en) * | 2001-02-07 | 2002-08-08 | International Business Machines Corporation | Customer self service system for resource search and selection |
CN101853250A (zh) * | 2009-04-03 | 2010-10-06 | 华为技术有限公司 | 对文档进行分类的方法及装置 |
JP2011154586A (ja) * | 2010-01-28 | 2011-08-11 | Rakuten Inc | 投稿文章分析装置、投稿文章分析方法、および、投稿文章分析装置用プログラム |
CN103106211A (zh) * | 2011-11-11 | 2013-05-15 | 中国移动通信集团广东有限公司 | 客户咨询文本的情感识别方法及装置 |
CN102684997A (zh) * | 2012-04-13 | 2012-09-19 | 亿赞普(北京)科技有限公司 | 一种通信报文的分类、训练方法和装置 |
CN108416616A (zh) * | 2018-02-05 | 2018-08-17 | 阿里巴巴集团控股有限公司 | 投诉举报类别的排序方法和装置 |
CN109543032A (zh) * | 2018-10-26 | 2019-03-29 | 平安科技(深圳)有限公司 | 文本分类方法、装置、计算机设备和存储介质 |
CN110147445A (zh) * | 2019-04-09 | 2019-08-20 | 平安科技(深圳)有限公司 | 基于文本分类的意图识别方法、装置、设备及存储介质 |
CN110309306A (zh) * | 2019-06-19 | 2019-10-08 | 淮阴工学院 | 一种基于wsd层级记忆网络的文档建模分类方法 |
CN110334216A (zh) * | 2019-07-12 | 2019-10-15 | 福建省趋普物联科技有限公司 | 一种垃圾文本识别方法及系统 |
CN110503054A (zh) * | 2019-08-27 | 2019-11-26 | 广东工业大学 | 文本图像的处理方法及装置 |
Non-Patent Citations (4)
Title |
---|
CAI-ZHI LIU等: ""Research of Text Classification Based on Improved TF-IDF Algorithm"", 《2018 IEEE INTERNATIONAL CONFERENCE OF INTELLIGENT ROBOTIC AND CONTROL ENGINEERING (IRCE)》 * |
凤丽洲: ""文本分类关键技术及应用研究"", 《中国博士学位论文全文数据库》 * |
周浩波等: "多维度解读签名档类型的文本分析――网络传播中即时通讯工具签名档研究初探之二", 《新闻传播》, no. 04 * |
王静: ""基于双向门控循环单元的评论文本情感分类"", 《中国优秀博硕士学位论文全文数据库》 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111581381A (zh) * | 2020-04-29 | 2020-08-25 | 北京字节跳动网络技术有限公司 | 文本分类模型的训练集合的生成方法、装置和电子设备 |
CN111581381B (zh) * | 2020-04-29 | 2023-10-10 | 北京字节跳动网络技术有限公司 | 文本分类模型的训练集合的生成方法、装置和电子设备 |
CN112257432A (zh) * | 2020-11-02 | 2021-01-22 | 北京淇瑀信息科技有限公司 | 一种自适应意图识别方法、装置及电子设备 |
CN112487295A (zh) * | 2020-12-04 | 2021-03-12 | 中国移动通信集团江苏有限公司 | 5g套餐推送方法、装置、电子设备及计算机存储介质 |
CN112802568A (zh) * | 2021-02-03 | 2021-05-14 | 紫东信息科技(苏州)有限公司 | 基于病历文本的多标签胃部疾病分类方法及装置 |
CN113139033A (zh) * | 2021-05-13 | 2021-07-20 | 平安国际智慧城市科技股份有限公司 | 文本处理方法、装置、设备及存储介质 |
CN113535951A (zh) * | 2021-06-21 | 2021-10-22 | 深圳大学 | 用于进行信息分类的方法、装置、终端设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111078878B (zh) | 2023-07-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112560912B (zh) | 分类模型的训练方法、装置、电子设备和存储介质 | |
CN111325020B (zh) | 一种事件论元抽取方法、装置以及电子设备 | |
CN111078878B (zh) | 文本处理方法、装置、设备及计算机可读存储介质 | |
CN111967268A (zh) | 文本中的事件抽取方法、装置、电子设备和存储介质 | |
CN111104514B (zh) | 文档标签模型的训练方法及装置 | |
CN111709247A (zh) | 数据集处理方法、装置、电子设备和存储介质 | |
CN111221984A (zh) | 多模态内容处理方法、装置、设备及存储介质 | |
EP3920088A1 (en) | Method and apparatus for generating tag of video, electronic device, and storage medium | |
CN110991427B (zh) | 用于视频的情绪识别方法、装置和计算机设备 | |
CN112036509A (zh) | 用于训练图像识别模型的方法和装置 | |
CN111859951A (zh) | 语言模型的训练方法、装置、电子设备及可读存储介质 | |
CN111259671A (zh) | 文本实体的语义描述处理方法、装置及设备 | |
CN111859982A (zh) | 语言模型的训练方法、装置、电子设备及可读存储介质 | |
CN111144108A (zh) | 情感倾向性分析模型的建模方法、装置和电子设备 | |
CN111680517A (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN111488740A (zh) | 一种因果关系的判别方法、装置、电子设备及存储介质 | |
CN111127191B (zh) | 风险评估方法及装置 | |
CN112507101A (zh) | 一种建立预训练语言模型的方法和装置 | |
CN111858905B (zh) | 模型训练方法、信息识别方法、装置、电子设备及存储介质 | |
CN111582477A (zh) | 神经网络模型的训练方法和装置 | |
CN111611990A (zh) | 用于识别图像中表格的方法和装置 | |
CN111522944A (zh) | 用于输出信息的方法、装置、设备以及存储介质 | |
CN111241234A (zh) | 文本分类方法及装置 | |
CN112380847A (zh) | 兴趣点处理方法、装置、电子设备及存储介质 | |
CN110532487B (zh) | 标签的生成方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |