Nothing Special   »   [go: up one dir, main page]

CN113127604A - 基于评论文本的细粒度物品推荐方法及系统 - Google Patents

基于评论文本的细粒度物品推荐方法及系统 Download PDF

Info

Publication number
CN113127604A
CN113127604A CN202110505981.5A CN202110505981A CN113127604A CN 113127604 A CN113127604 A CN 113127604A CN 202110505981 A CN202110505981 A CN 202110505981A CN 113127604 A CN113127604 A CN 113127604A
Authority
CN
China
Prior art keywords
user
article
comment text
granularity
comment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110505981.5A
Other languages
English (en)
Other versions
CN113127604B (zh
Inventor
杨振宇
王皓
刘国敬
崔来平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qilu University of Technology
Original Assignee
Qilu University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qilu University of Technology filed Critical Qilu University of Technology
Priority to CN202110505981.5A priority Critical patent/CN113127604B/zh
Publication of CN113127604A publication Critical patent/CN113127604A/zh
Application granted granted Critical
Publication of CN113127604B publication Critical patent/CN113127604B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种基于评论文本的细粒度物品推荐方法及系统，包括：分别获取用户评论文本集合和物品评论文本集合；利用细粒度特征交互网络计算用户和物品间的多粒度关联矩阵，获得3D交互图像；将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户‑物品的评分预测，根据评分结果实现物品的推荐；所述方案以多层次扩张卷积结构来编码用户和物品评论，避免了评论中细粒度信息的丢失，在多个粒度下构建用户和物品评论的特征交互，并使用3D卷积来融合处理多粒度信息，有效的突出了评论中多个粒度下的相关信息，有效提高了物品推荐的合理性和准确性。

Description

基于评论文本的细粒度物品推荐方法及系统
技术领域
本公开属于物品推荐技术领域，尤其涉及一种基于评论文本的细粒度物品推荐方法及系统。
背景技术
本部分的陈述仅仅是提供了与本公开相关的背景技术信息，不必然构成在先技术。
在许多工作中，利用评论文本来提升推荐系统的效果被证明是有效的。基于评论的推荐系统不仅可以缓解冷启动问题，还可以获得更细粒度的用户和物品表示。较早的工作主要集中于主题建模和语言建模方法。近年来，研究者使用深度学习方法，取得了不错的成果。ConvMF使用卷积神经网络(CNN)作为自动特征提取器，将用户(项目)编码为低维向量表示。然后利用概率矩阵分解(PMF)结合起来进行评分预测。DeepCoNN(Deep CooperativeNeural Networks)使用了两个并行的卷积架构从用户和物品的评论中推断潜在的特征表示。用户和物品的特征表示被连接起来，并用作因子分解机(FM)的输入，用于评分预测。由于不同的词对建模的重要性是不同的，所以D-Attn引入了词级别的的注意力机制，为不同的词赋予了不同的权重。DAML关注用户和物品评论之间的局部信息以及两者的交互。DAML将评分特征和评论特征整合到统一的框架中，利用神经因子分解机实现特征的高阶非线性交互，完成最终的评分预测。增强了模型的可解释性。MPCN从用户和项目的评论中提取重要的评论，然后逐字匹配它们。它不仅可以利用信息最丰富的评论进行预测，还可以进行更深层次的文字互动。
随着深度学习在自然语言处理等领域取得的巨大成功，许多基于该技术的推荐模型极大的提高了评分预测的性能。在这些工作中，卷积神经网络架构分别从用户和物品对应的评论中提取潜在特征。通过使用一个密集的词嵌入矩阵来表示评论，随后应用一个固定大小的滑动窗口来捕获上下文信息。基于卷积神经网络的技术更好的促进了对评论中语义信息的理解，导致对现有基于词袋模式的评分预测方法的显著改进。然而，一个饱受诟病的缺点是人们难以有效的理解神经网络所提取的特征，这限制了推荐系统的可解释性。
基于评论的推荐系统的关键在于对评论文本中不同粒度信息的捕获。通常而言，同一用户对不同物品往往具有不同的偏好，这整体地反映在他所撰写的评论。同时，评论中的重要语义特征被隐含在不同粒度的文本片段中。图中的举例说明了这一问题。不同粒度的文本(如：单词、短语和句子)可以揭示用户对不同物品的偏好。例如单词：“best”、“great”、“disappointing”；短语：“quality great battery life”、“screen looksamazing”和句子：“I usually go with product red but it looked a bit orange thisyear.”。
然而，发明人发现，现有的工作通常通过整合用户和物品的评论文本来为每个用户或物品学习单一的特征向量，然后通过因子分解等手段来实现评分预测。这些方法在捕捉细粒度的用户偏好和物品属性方面存在着局限性，因为它们仅仅是为用户物品分配一个单一的特征向量，导致评论中多个粒度下的信息没有被明显的捕获。
发明内容
本公开为了解决上述问题，提供了一种基于评论文本的细粒度物品推荐方法及系统，所述方案提供了一种细粒度特征交互网络，以多层次扩张卷积结构来编码用户和物品评论，避免了评论中细粒度信息的丢失，在多个粒度下构建用户和物品评论的特征交互，并使用3D卷积来融合处理多粒度信息，有效的突出了评论中多个粒度下的相关信息，有效提高了物品推荐的合理性和准确性。
根据本公开实施例的第一个方面，提供了一种基于评论文本的细粒度物品推荐方法，包括：
分别获取用户评论文本集合和物品评论文本集合；
利用细粒度特征交互网络计算用户和物品间的多粒度关联矩阵，获得3D交互图像；
将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐；
其中，所述细粒度特征交互网络具体包括：利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；计算用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像。
进一步的，所述利用层次扩张卷积模型不同于标准卷积在每一步对输入的一个连续子序列进行卷积，不同层次的扩张卷积通过每次跳过δ个输入元素，所述扩张操作具体描述为：
Figure BDA0003058407230000031
其中，
Figure BDA0003058407230000032
是向量拼接，b是偏置项，ReLU是非线性激活函数，xt表示上下文中心单词，W为大小为2w+1的卷积核,w为用于调整卷积核大小的参数，δ为扩张率，其为不小于1的整数。
进一步的，所述计算用户和物品之间的多粒度关联矩阵，具体包括：通过在每个粒度上构建关联矩阵实现用户和物品之间特征的交互，给定用户和物品的第n个和第m个多粒度评论表示，则第l层粒度的关联矩阵通过如下的点乘运算实现：
Figure BDA0003058407230000033
其中，l＝[1，2，...，L]为语义粒度的数量，
Figure BDA0003058407230000034
Figure BDA0003058407230000035
中的元素
Figure BDA0003058407230000036
代表着用户与物品评论中第i个特征与第j个特征在l粒度下的相关性。
根据本公开实施例的第二个方面，提供了一种基于评论文本的细粒度物品推荐系统，包括：
数据获取单元，其用于分别获取用户评论文本集合和物品评论文本集合；
多粒度特征提取单元，其用于利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；
交互图像生成单元，其用于基于用户和物品的多粒度评论表示，构建用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像；
物品推荐单元，其用于将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐。
根据本公开实施例的第三个方面，提供了一种电子设备，包括存储器、处理器及存储在存储器上运行的计算机程序，所述处理器执行所述程序时实现所述的一种基于评论文本的细粒度物品推荐系统。
根据本公开实施例的第四个方面，提供了一种非暂态计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现所述的一种基于评论文本的细粒度物品推荐系统。
与现有技术相比，本公开的有益效果是：
(1)本公开所述方案给出了一种细粒度特征交互网络，通过所述细粒度特征交互网络来计算用户和物品间的多粒度关联矩阵，其优势在于：多层次的用户/物品表示和细粒度的特征交互，所述网络不是用单个抽象向量来表示每个用户，而是在一个统一的模块中使用分层扩展卷积来构建基于评论的多层次表示；通过分层叠加扩展的卷积，每一层的接收输入宽度呈指数增长，而参数的数量仅线性增加。同时，每一层的输出被保留为跨不同长度的文本段的特征映射，不会因为没有使用任何形式的池化或步进卷积而造成覆盖损失；通过这种方法，所述方案可以在不同粒度上通过局部相关性和长期依赖性逐步获得评论中的语义特征，包括词、短语和句子层次。所述方案以多层次扩张卷积结构来编码用户和物品评论，避免了评论中细粒度信息的丢失。
(2)为了避免信息丢失，所述细粒度特征交互网络，在每个语义粒度上构建用户评论和物品评论的特征交互。在实际应用中，该模型基于评论文本的分层表示方法，对每一对评论分别从词到句的层次上构建一个关联矩阵。通过这种方式，可以识别用户和物品评论中隐含的多个粒度特征，并以最小的损失进行交互，从而为预测准确的评分提供足够的内容相关性线索。然后，我们将每个粒度的评论对的多个关联矩阵合并成一个3D图像，其通道表示不同粒度下用户和物品评论特征交互的相关程度。通过类似于基于3D卷积的图像识别层次，识别高阶显著信号来预测用户对物品评分；所述方案在多个粒度下构建用户和物品评论的特征交互，并使用3D卷积来融合处理多粒度信息，有效的突出了评论中多个粒度下的相关信息。
(3)所述方案不仅在性能方面有优越性，还具有强力的可解释性。
本公开附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本公开的实践了解到。
附图说明
构成本公开的一部分的说明书附图用来提供对本公开的进一步理解，本公开的示意性实施例及其说明用于解释本公开，并不构成对本公开的不当限定。
图1为本公开实施例一中所述的细粒度特征交互网络模型结构示意图；
图2为本公开实施例一中所述的层次扩张卷积。
具体实施方式
下面结合附图与实施例对本公开做进一步说明。
应该指出，以下详细说明都是例示性的，旨在对本公开提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本公开所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本公开的示例性实施方式。如在这里所使用的，除非上下文另外明确指出，否则单数形式也意图包括复数形式，此外，还应当理解的是，当在本说明书中使用术语“包含”和/或“包括”时，其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。
实施例一：
本实施例的目的是提供一种基于评论文本的细粒度物品推荐方法。
一种基于评论文本的细粒度物品推荐方法，包括：
分别获取用户评论文本集合和物品评论文本集合；
利用细粒度特征交互网络计算用户和物品间的多粒度关联矩阵，获得3D交互图像；
将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐；
其中，所述细粒度特征交互网络具体包括：利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；计算用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像。
具体的，为了便于理解，以下结合附图对本公开所述方案进行详细说明：
如图1展示了细粒度特征交互网络模型结构示意图，所述模型结构依次描述我们提出的细粒度特征交互网络(FFIN：fine-grained feature interaction network)。首先，我们对基于评论的推荐问题进行了定义；随后，我们详细描述了评论表示模块中层次扩张卷积结构对原始评论文本的编码过程；其次，我们展示了用户和物品的多粒度的评论表示特征的交互过程；最后，我们介绍了一个带有因子分解机(FM)的评分预测层实现用户对物品的评分，其中：
(一)问题定义
基于评论的推荐问题可以表述为：对于给定的用户u和物品i，它们都对应一组原始的评论文本集合
Figure BDA0003058407230000061
和
Figure BDA0003058407230000062
其中N，M对应用户和物品评论集合的评论数量，其中，用户评论文本集合，其存储的是特定用户关于不同物品的评论文本；物品评论文本集合，其存储的是关于特定物品不同用户的评论文本。我们的目的是建立一个预测模型，通过一组用户和物品的评论集合来预测用户对该物品的评分。设一组用户和物品评论集合中单个评论的最大长度分别为Tu和Ti，则第n个用户和第m个物品原始的评论文本可以分别表示为：
Figure BDA0003058407230000071
Figure BDA0003058407230000072
(二)评论文本表示
由于用户和物品的多粒度评论表示的产生过程是类似的，因此我们仅展示单个评论文本的编码步骤，且将
Figure BDA0003058407230000073
简化为s，评论长度设为T。
受到多层扩张卷积结构的启发，如图2所示，我们设计了一种层次扩张卷积(hierarchical dilated convolution，HDC)来直接从评论中学习多个语义粒度的评论表示。
对于给定的评论文本s＝[w1，w2，...，wT]，模型首先通过一个嵌入矩阵将其映射为相应的词向量矩阵，即X＝[x1，x2，...，xT]，其中xt∈Rd是该文本中的第t个单词的词嵌入表示，d是词向量的维度大小。然后，HDC以该词向量矩阵为输入，捕获评论中的多粒度语义特征。
不同于标准卷积在每一步对输入的一个连续子序列进行卷积，扩张卷积通过每次跳过δ个输入元素，而拥有更为广泛的接受域，其中δ是扩张率。对于上下文中心单词xt和大小为2w+1的卷积核W，扩张卷积操作可以被公式为：
Figure BDA0003058407230000074
其中，
Figure BDA0003058407230000075
是向量拼接、b是偏置项、ReLU是非线性激活函数。如图2所示，每个卷积层的输出是前一层输入的加权组合。我们以δ＝1为开始(等同于标准卷积)，以确保不遗漏原始输入序列中的任何元素。之后，通过以更大的扩张率层次叠加扩张之后的卷积，卷积文本的长度以指数形式扩展，只需使用少量的层和适量的参数就可以覆盖不同接受域的语义特征。
此外，为了防止梯度的消失或爆炸，我们在每个卷积层的最后应用层归一化(layer normalization)。由于可能会有不相关的信息引入到长距离的语义单元中，我们实际根据验证中的性能设计多层次的扩张率。每个堆叠层l的输出都保存为文本在特定粒度水平上的特征图，公式为
Figure BDA0003058407230000081
其中f是是每一层卷积滤波器的数量。假设有L层堆叠的扩张卷积，多粒度评论表示可以定义为[s1，s2，...，sL]。通过这种方式，HDC以较小的扩张率从单词和短语层次逐步收获词义和语义特征，以较大的扩张率从句子层次捕获长期的依赖关系。我们的评论编码模块不仅在并行能力上优于循环神经网络，而且相比于完全基于注意力的方法能够显著减少内存的消耗。
经过HDC模块编码，单个用户和物品的多粒度评论表示可以分别被表述为：
Figure BDA0003058407230000082
Figure BDA0003058407230000083
其中，
Figure BDA0003058407230000084
分别为用户和物品评论集合Su、Si中的第n个和第m个评论文本。
(三)特征交互模块
给定的用户和物品的多粒度评论表示集合
Figure BDA0003058407230000085
和
Figure BDA0003058407230000086
我们通过在每个粒度上构建关联矩阵实现用户和物品之间特征的交互。给定用户和物品的第n个和第m个多粒度评论表示，第l层粒度的关联矩阵可以通过如下的点乘运算实现：
Figure BDA0003058407230000087
其中，l＝[1，2，...，L]是语义粒度的数目，
Figure BDA0003058407230000088
Figure BDA0003058407230000089
中的元素
Figure BDA00030584072300000810
代表着用户与物品评论中第i个特征与第j个特征在l粒度下的相关性。
为了总结整个用户和物品的评论中的多粒度特征，FFIN将用户和物品的所有交互得到的关联矩阵融合成一个3D交互图像，公式为：
Figure BDA00030584072300000811
其中n×m代表关联矩阵在单个粒度下的总数量，3D交互图像中的每个像素点由以下方式得到：
Figure BDA0003058407230000091
具体来讲，每个像素点都是所有粒度下特征的拼接向量，表示用户与物品在多个粒度下的交互程度。
由于用户的评分行为通常是带有主观性的个性化，因此在面对不同的物品时会体现出不同的偏好。我们采用分层的3D卷积神经网络和最大池化操作，从整个图像中识别出突出的匹配信号。三维卷积是典型的二维卷积的扩展，其滤波器和步长都是三维立方体。形式上，第t层的第z个特征图上的高阶像素在(k，i，j)处的计算方式为:
Figure BDA0003058407230000092
其中,ELU为非线性激活函数，z'代表着上一层的特征图，
Figure BDA0003058407230000093
和b(t)分别是3D卷积核和偏置项，大小为Wt×Ht×Rt。随后，通过一个最大池化操作提取出显著的信息：
Figure BDA0003058407230000094
其中，
Figure BDA0003058407230000095
和
Figure BDA0003058407230000096
是3D池化操作的大小。最后一层的输出是将用户和物品评论之间的综合交互向量进行拼接，表示为
Figure BDA0003058407230000097
(四)评分预测模块
在本小节中，我们将上述特征交互模块产生的预测向量
Figure BDA0003058407230000098
输入到全连接神经网络和传统的因子分解机(FM)中来实现最终的用户-物品评分预测。全连接神经网络的实现过程可以被公式如下：
Figure BDA0003058407230000099
其中，W0∈Rn×e和b0∈Rn分别是全连接网络的权重参数和偏置项。
FM接受一个实值特征向量，并使用分解参数对特征之间的相互作用进行建模。其定义如下
Figure BDA0003058407230000101
其中，
Figure BDA0003058407230000102
是实值输入特征向量。<.，.>是点乘操作。参数{v1，...，vn}，υ∈Rn是用于建模交互对(xi，xi)的分解参数。
Figure BDA0003058407230000103
和
Figure BDA0003058407230000104
分别是全局偏置项和线性回归组件。FM的权重参数。FM的输出
Figure BDA0003058407230000105
是一个标量，代表用户和物品交互的预测评分。
进一步的，对不同的物品按照其预测评分由大到小排序，将预测评分高的物品推荐给用户。
实施例二：
本实施例的目的是提供一种基于评论文本的细粒度物品推荐系统。
一种基于评论文本的细粒度物品推荐系统，包括：
数据获取单元，其用于分别获取用户评论文本集合和物品评论文本集合；
多粒度特征提取单元，其用于利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；
交互图像生成单元，其用于基于用户和物品的多粒度评论表示，构建用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像；
物品推荐单元，其用于将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐。
在更多实施例中，还提供：
一种电子设备，包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成实施例一中所述的方法。为了简洁，在此不再赘述。
应理解，本实施例中，处理器可以是中央处理单元CPU，处理器还可以是其他通用处理器、数字信号处理器DSP、专用集成电路ASIC，现成可编程门阵列FPGA或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据、存储器的一部分还可以包括非易失性随机存储器。例如，存储器还可以存储设备类型的信息。
一种计算机可读存储介质，用于存储计算机指令，所述计算机指令被处理器执行时，完成实施例一中所述的方法。
实施例一中的方法可以直接体现为硬件处理器执行完成，或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器、闪存、只读存储器、可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。为避免重复，这里不再详细描述。
本领域普通技术人员可以意识到，结合本实施例描述的各示例的单元即算法步骤，能够以电子硬件或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
上述实施例提供的一种基于评论文本的细粒度物品推荐方法及系统可以实现，具有广阔的应用前景。
以上所述仅为本公开的优选实施例而已，并不用于限制本公开，对于本领域的技术人员来说，本公开可以有各种更改和变化。凡在本公开的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本公开的保护范围之内。
上述虽然结合附图对本公开的具体实施方式进行了描述，但并非对本公开保护范围的限制，所属领域技术人员应该明白，在本公开的技术方案的基础上，本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本公开的保护范围以内。

Claims (10)

1.一种基于评论文本的细粒度物品推荐方法，其特征在于，包括：
分别获取用户评论文本集合和物品评论文本集合；
利用细粒度特征交互网络计算用户和物品间的多粒度关联矩阵，获得3D交互图像；
将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐；
其中，所述细粒度特征交互网络具体包括：利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；计算用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像。
2.如权利要求1所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，所述利用层次扩张卷积模型不同于标准卷积在每一步对输入的一个连续子序列进行卷积，不同层次的扩张卷积通过每次跳过δ个输入元素，所述扩张操作具体描述为：
Figure FDA0003058407220000011
其中，
Figure FDA0003058407220000012
是向量拼接，b是偏置项，ReLU是非线性激活函数，xt表示上下文中心单词，W为大小为2w+1的卷积核，w为用于调整卷积核大小的参数，δ为扩张率，其为不小于1的整数。
3.如权利要求2所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，为了防止梯度的消失或爆炸，在每层扩张卷积的最后应用层归一化。
4.如权利要求1所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，所述计算用户和物品之间的多粒度关联矩阵，具体包括：通过在每个粒度上构建关联矩阵实现用户和物品之间特征的交互，给定用户和物品的第n个和第m个多粒度评论表示，则第l层粒度的关联矩阵通过如下的点乘运算实现：
Figure FDA0003058407220000021
其中，l＝[1，2，...，L]为语义粒度的数量，
Figure FDA0003058407220000022
Figure FDA0003058407220000023
中的元素
Figure FDA0003058407220000024
代表着用户与物品评论中第i个特征与第j个特征在l粒度下的相关性。
5.如权利要求1所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，所述通过3D卷积神经网络将所述关联矩阵融合成3D交互图像，其中，所述3D交互图像中的每个像素点都是所有粒度下特征的拼接向量，表示用户与物品在多个粒度下的交互程度。
6.如权利要求1所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，所述将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，具体为：将所述3D交互图像输入到全连接神经网络中获得一个实值特征向量，将所述特征向量输入到因子分解机中，使用分解参数对特征之间的相互作用进行建模，输出用户和物品交互的预测评分。
7.如权利要求1所述的一种基于评论文本的细粒度物品推荐方法，其特征在于，采用层次扩张卷积模型对评论文本进行多粒度语义特征提取前，针对每一条评论文本，通过嵌入矩阵将其映射为相应的词向量矩阵。
8.一种基于评论文本的细粒度物品推荐系统，其特征在于，包括：
数据获取单元，其用于分别获取用户评论文本集合和物品评论文本集合；
多粒度特征提取单元，其用于利用层次扩张卷积模型分别对用户评论文本集合和物品评论文本集合中的每条评论文本进行多粒度语义特征提取，获得用户和物品的多粒度评论表示集合；
交互图像生成单元，其用于基于用户和物品的多粒度评论表示，构建用户和物品之间的多粒度关联矩阵，并通过3D卷积神经网络将所述关联矩阵融合成3D交互图像；
物品推荐单元，其用于将所述3D交互图像输入到全连接神经网络和传统因子分解机中实现用户-物品的评分预测，根据评分结果实现物品的推荐。
9.一种电子设备，包括存储器、处理器及存储在存储器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-7任一项所述的一种基于评论文本的细粒度物品推荐系统。
10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7任一项所述的一种基于评论文本的细粒度物品推荐系统。
CN202110505981.5A 2021-05-10 2021-05-10 基于评论文本的细粒度物品推荐方法及系统 Active CN113127604B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110505981.5A CN113127604B (zh) 2021-05-10 2021-05-10 基于评论文本的细粒度物品推荐方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110505981.5A CN113127604B (zh) 2021-05-10 2021-05-10 基于评论文本的细粒度物品推荐方法及系统

Publications (2)

Publication Number Publication Date
CN113127604A true CN113127604A (zh) 2021-07-16
CN113127604B CN113127604B (zh) 2022-10-04

Family

ID=76781246

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110505981.5A Active CN113127604B (zh) 2021-05-10 2021-05-10 基于评论文本的细粒度物品推荐方法及系统

Country Status (1)

Country Link
CN (1) CN113127604B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113570154A (zh) * 2021-08-09 2021-10-29 齐鲁工业大学 融合用户动态兴趣的多粒度交互推荐方法及系统
CN114154071A (zh) * 2021-12-09 2022-03-08 电子科技大学 一种基于注意力机制的情感时序推荐方法
CN114676315A (zh) * 2022-01-28 2022-06-28 齐鲁工业大学 基于增强图卷积的属性融合交互推荐模型构建方法及系统
CN114676315B (zh) * 2022-01-28 2024-11-05 齐鲁工业大学(山东省科学院) 基于增强图卷积的属性融合交互推荐模型构建方法及系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130218914A1 (en) * 2012-02-20 2013-08-22 Xerox Corporation System and method for providing recommendations based on information extracted from reviewers' comments
US20140365207A1 (en) * 2013-06-06 2014-12-11 Xerox Corporation Method and system for classifying reviewers' comments and recommending related actions in idea-generating social media platforms
CN107038609A (zh) * 2017-04-24 2017-08-11 广州华企联信息科技有限公司 一种基于深度学习的商品推荐方法及系统
CN109740154A (zh) * 2018-12-26 2019-05-10 西安电子科技大学 一种基于多任务学习的在线评论细粒度情感分析方法
CN110060132A (zh) * 2019-04-24 2019-07-26 吉林大学 基于细粒度数据的可解释商品推荐方法
CN110083684A (zh) * 2019-04-24 2019-08-02 吉林大学 面向细粒度情感的可解释推荐模型
CN111061951A (zh) * 2019-12-11 2020-04-24 华东师范大学 一种基于双层自注意力评论建模的推荐模型
CN112100485A (zh) * 2020-08-20 2020-12-18 齐鲁工业大学 一种基于评论的评分预测物品推荐方法及系统
CN112182156A (zh) * 2020-09-28 2021-01-05 齐鲁工业大学 基于文本处理的方面级可解释深度网络评分预测推荐方法
CN112699215A (zh) * 2020-12-24 2021-04-23 齐鲁工业大学 基于胶囊网络与交互注意力机制的评级预测方法及系统

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130218914A1 (en) * 2012-02-20 2013-08-22 Xerox Corporation System and method for providing recommendations based on information extracted from reviewers' comments
US20140365207A1 (en) * 2013-06-06 2014-12-11 Xerox Corporation Method and system for classifying reviewers' comments and recommending related actions in idea-generating social media platforms
CN107038609A (zh) * 2017-04-24 2017-08-11 广州华企联信息科技有限公司 一种基于深度学习的商品推荐方法及系统
CN109740154A (zh) * 2018-12-26 2019-05-10 西安电子科技大学 一种基于多任务学习的在线评论细粒度情感分析方法
CN110060132A (zh) * 2019-04-24 2019-07-26 吉林大学 基于细粒度数据的可解释商品推荐方法
CN110083684A (zh) * 2019-04-24 2019-08-02 吉林大学 面向细粒度情感的可解释推荐模型
CN111061951A (zh) * 2019-12-11 2020-04-24 华东师范大学 一种基于双层自注意力评论建模的推荐模型
CN112100485A (zh) * 2020-08-20 2020-12-18 齐鲁工业大学 一种基于评论的评分预测物品推荐方法及系统
CN112182156A (zh) * 2020-09-28 2021-01-05 齐鲁工业大学 基于文本处理的方面级可解释深度网络评分预测推荐方法
CN112699215A (zh) * 2020-12-24 2021-04-23 齐鲁工业大学 基于胶囊网络与交互注意力机制的评级预测方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
WANG H Y, WU F Z, LIU Z, ET AL: "Fine-Grained Interest Matching for Neural News Recommendation", 《THE 58TH ANNEAL MEETING OF THE ASSOCIATION. FOR COMPUTATIONAL LINGUISTICS》 *
ZHENG L, NOROOZI V, YU P S.: "Joint Deep Modeling of Users and Items Using Reviews for Recommendation", 《THE TENTH ACM INTERNATIONAL CONFERENCE ON WEB SEARROH AND DATA MINING》 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113570154A (zh) * 2021-08-09 2021-10-29 齐鲁工业大学 融合用户动态兴趣的多粒度交互推荐方法及系统
CN113570154B (zh) * 2021-08-09 2024-07-05 齐鲁工业大学 融合用户动态兴趣的多粒度交互推荐方法及系统
CN114154071A (zh) * 2021-12-09 2022-03-08 电子科技大学 一种基于注意力机制的情感时序推荐方法
CN114154071B (zh) * 2021-12-09 2023-05-09 电子科技大学 一种基于注意力机制的情感时序推荐方法
CN114676315A (zh) * 2022-01-28 2022-06-28 齐鲁工业大学 基于增强图卷积的属性融合交互推荐模型构建方法及系统
CN114676315B (zh) * 2022-01-28 2024-11-05 齐鲁工业大学(山东省科学院) 基于增强图卷积的属性融合交互推荐模型构建方法及系统

Also Published As

Publication number Publication date
CN113127604B (zh) 2022-10-04

Similar Documents

Publication Publication Date Title
US12039280B2 (en) Multi-turn dialogue response generation with persona modeling
CN111611377B (zh) 基于知识蒸馏的多层神经网络语言模型训练方法与装置
US11941366B2 (en) Context-based multi-turn dialogue method and storage medium
CN111881291A (zh) 一种文本情感分类方法及系统
EP3893163A1 (en) End-to-end graph convolution network
US11636341B2 (en) Processing sequential interaction data
CN110929515A (zh) 基于协同注意力和自适应调整的阅读理解方法及系统
CN112749274B (zh) 基于注意力机制和干扰词删除的中文文本分类方法
CN114547298B (zh) 基于多头注意力和图卷积网络结合R-Drop机制的生物医学关系抽取方法、装置和介质
CN113127604B (zh) 基于评论文本的细粒度物品推荐方法及系统
CN110688834B (zh) 基于深度学习模型进行智能文稿风格改写的方法和设备
CN111145914B (zh) 一种确定肺癌临床病种库文本实体的方法及装置
CN113779994B (zh) 一种要素抽取方法、装置、计算机设备和存储介质
CN112417155B (zh) 基于指针-生成Seq2Seq模型的庭审询问生成方法、装置、介质
Chen et al. Deep neural networks for multi-class sentiment classification
US20230169271A1 (en) System and methods for neural topic modeling using topic attention networks
CN113821635A (zh) 一种用于金融领域的文本摘要的生成方法及系统
CN112632296A (zh) 基于知识图谱具有可解释性的论文推荐方法及系统、终端
US11941360B2 (en) Acronym definition network
CN110020431A (zh) 文本信息的特征提取方法、装置、计算机设备及存储介质
Xia An overview of deep learning
CN111581386A (zh) 多输出文本分类模型的构建方法、装置、设备及介质
CN108170657A (zh) 一种自然语言长文本生成方法
Cvejoski et al. Recurrent point review models
CN113792163B (zh) 多媒体推荐方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address
CP03 Change of name, title or address

Address after: 250353 University Road, Changqing District, Ji'nan, Shandong Province, No. 3501

Patentee after: Qilu University of Technology (Shandong Academy of Sciences)

Country or region after: China

Address before: 250353 University Road, Changqing District, Ji'nan, Shandong Province, No. 3501

Patentee before: Qilu University of Technology

Country or region before: China