CN110442781A - 一种基于生成对抗网络的对级排序项目推荐方法 - Google Patents

Abstract

本发明公开了一种基于生成对抗网络的对级排序项目推荐方法，首先利用卷积神经网络从文本评论中捕获评论信息的上下文特征。其次通过嵌入层从用户的反馈数据中提取用户交互特征和项目交互特征。之后对项目的交互特征和评论特征进行融合，并利用生成对抗网络的生成器为用户生成个性化的负样本，通过对抗的训练来更新参数，不断提高生成器的推荐性能，直到最终生成器的推荐结果收敛。本发明可以有效的从评论中挖掘项目的评论特征缓解隐式反馈数据的稀疏性，利用生成对抗的过程个性化的选择负样本，克服传统采样方式的弱点，提高推荐的准确性。

Description

一种基于生成对抗网络的对级排序项目推荐方法

技术领域

本发明属于数据挖掘技术领域，具体涉及智能推荐领域中的一种基于生成对抗网络的对级排序项目推荐方法。

背景技术

互联网的发展为人们带来了更加便捷的服务和更多样化的信息，随着接触到的信息规模与日俱增，用户不可避免的遭遇信息过载的问题，使得快速获取目标信息变得越来越困难。推荐系统作为解决信息过载问题的重要手段，对客户留存和互联网企业成功与否有着重要的影响。推荐系统从用户的历史反馈中学习用户的特征，从而从大量的项目集中选择符合用户偏好的项目，为用户进行个性化的推荐。现实生活中，用户更多以隐式反馈的方式来表达自己的偏好，如是否点击、是否购买等，但是没有观察到的项目表达何种含义是不确定的，因此基于隐式反馈的项目推荐更加具有挑战性。

现有的基于隐式反馈的推荐方法主要分为两类：点级回归和对级排序。点级回归认为未观察到的项目就是用户不喜欢的项目([文献1])，通过回归优化用户对项目的预测评分，并根据预测评分的高低对项目进行排序。对级排序可以利用未观察到的数据，一定程度上缓解了数据稀疏性。[文献2]基于用户更喜欢观察到的项目的假设，提出贝叶斯个性化排序算法(Bayesian Personalized Ranking,BPR)。将项目推荐问题转化为偏序关系〈i,j〉中用户是否更喜欢项目i的二分类问题，通过所有项目两两之间的偏序关系来生成推荐列表。Zhao等人提出SBPR将社交关系引入到BPR中进行建模([文献3])。[文献4]设计了包含视觉信息的排序模型，利用深度神经网络提取视觉特征，作为交互信息的辅助，生成更符合用户偏好的个性化排名。但是上述方法大多采用随机采样的方式选择负样本，忽略了负样本和用户之间的相关性。

近年来，随着深度学习研究的不断深入以及在图像、语音、自然语言处理等领域取得的巨大成功([文献5]-[文献8])，将深度学习引入到推荐领域成为研究的一个热点，利用深度神经网络挖掘辅助信息的特征能够有效地缓解数据稀疏性和冷启动问题。[文献9]采用堆叠降噪自动编码器提取项目评论的上下文特征，并将评论特征的提取与评级矩阵的协同过滤紧密结合，允许两者之间的双向交互；[文献10]利用无监督学习得到的词向量构建词向量矩阵，通过卷积、池化提取文本的语义特征，对文本进行分类。[文献11]利用卷积神经网络提取有效的特征表示，并集成概率矩阵分解重构用户-项目评分矩阵。卷积神经网络克服了词袋模型的固有局限性，能够成功的学习文本的语义特征。

[文献12]首次提出生成对抗网络，其基本思想是在生成器和判别器之间进行极大极小的博弈游戏，二者进行迭代的训练，相互促进。由于生成器具有生成样本的能力，在许多领域有了成功的应用([文献13])。Wang等人首次将生成对抗的思想引入到信息检索领域(IRGAN)([文献14])，设计了一个符合推荐领域特点的生成离散数据的生成器，并给出一个可行的优化方案；用判别器的判断生成器推荐的项目是否符合用户的偏好。[文献15]提出对抗成对学习推荐系统，将生成对抗网络的思想应用于排序学习，利用生成器来生成一个负样本，提供了生成器生成离散样本优化问题的另一种解决方案，并且增加了收敛速度，提高了对抗模型的稳定性。[文献16]提出融合长期的评分信息和短期的会话信息在内容感知的电影推荐使用对抗性训练，为用户推荐下一部电影。然而目前在生成对抗网络中融合评论信息，缓解数据稀疏性进行项目推荐的研究还很少。

[文献1]Pan R,Zhou Y,Cao B,et al.One-class collaborative filtering.//Proceedings of the Eighth IEEE International Conference on Data Mining.IEEE,2008:502-511.

[文献2]Rendle S,Freudenthaler C,Gantner Z,et al.BPR:Bayesianpersonalized ranking from implicit feedback.//Proceedings of the twenty-fifthconference on uncertainty in artificial intelligence.AUAI Press,2009:452-461.

[文献3]Zhao T,McAuley J,King I.Leveraging social connections toimprove personalized ranking for collaborative filtering.//Proceedings of the23rd ACM international conference on conference on information and knowledgemanagement.ACM,2014:261-270.

[文献4]He R,McAuley J.VBPR:visual bayesian personalized ranking fromimplicit feedback.//Proceedings of Thirtieth AAAI Conference on ArtificialIntelligence.2016.

[文献5]Chen Y S,Wang Y C,Kao M H,et al.Deep photo enhancer:Unpairedlearning for image enhancement from photographs with gans.//Proceedings ofthe IEEE Conference on Computer Vision and Pattern Recognition.2018:6306-6314.

[文献6]Nassif A B,Shahin I,Attili I,et al.Speech Recognition UsingDeep Neural Networks:A Systematic Review.IEEE Access,2019,7:19143-19165

[文献7]Zhao J,Mao X,Chen L.Learning deep features to recognise speechemotion using merged deep CNN.IET Signal Processing,2018,12(6):713-721.

[文献8]Wu Y,Schuster M,Chen Z,et al.Google's neural machinetranslation system:Bridging the gap between human and machinetranslation.arXiv preprint arXiv:1609.08144,2016.

[文献9]Wang H,Wang N,Yeung D Y.Collaborative deep learning forrecommender systems.//Proceedings of the 21th ACM SIGKDD internationalconference on knowledge discovery and data mining.ACM,2015:1235-1244.

[文献10]Kim Y.Convolutional neural networks for sentenceclassification.//arXiv preprint arXiv:1408.5882,2014.

[文献11]Kim D,Park C,Oh J,et al.Convolutional matrix factorizationfor document context-aware recommendation.//Proceedings of the 10th ACMConference on Recommender Systems.ACM,2016:233-240.

[文献12]Goodfellow I,Pouget-Abadie J,Mirza M,et al.Generativeadversarial nets.//Advances in neural information processing systems.2014:2672-2680.

[文献13]Creswell A,White T,Dumoulin V,et al.Generative AdversarialNetworks:An Overview.IEEE Signal Processing Magazine,2017,35(1):53-65.

[文献14]Wang J,Yu L,Zhang W,et al.Irgan:A minimax game for unifyinggenerative and discriminative information retrieval models.//Proceedings ofthe 40th International ACM SIGIR conference on Research and Development inInformation Retrieval.ACM,2017:515-524.

[文献15]Sun Z,Wu B,Wu Y,et al.APL:Adversarial Pairwise Learning forRecommender Systems.//Expert Systems with Applications,2018

[文献16]Zhao W,Chai H,Wang B,et al.Leveraging long and short-terminformation in content-aware movie recommendation.arXiv preprint arXiv:1712.09059,2017.

发明内容

针对上述现有技术存在的问题和不足，本发明提供了一种基于生成对抗网络的对级排序项目推荐方法。重点是利用生成对抗网络的生成器生成个性化的负样本，提高参数推理的有效性，并通过卷积神经网络对评论建模来缓解数据稀疏性，提高推荐的性能。

本发明所采用的技术方案是：一种基于生成对抗网络的对级排序项目推荐方法，其特征在于，包括以下步骤：

步骤1：采集训练数据，对用户给出的隐式反馈(如是否点击、购买、收藏等)以及项目评论信息进行过滤，并对过滤后的评论信息进行预处理。

步骤2：利用GloVe词向量模型将的项目评论信息转换为词向量矩阵，利用卷积神经网络学习评论信息的潜在上下文特征作为项目的评论特征；通过嵌入层将用户给出的隐式反馈转化为用户交互特征和项目交互特征。

步骤3：在对抗的训练过程中对参数进行优化；

利用生成对抗网络中的生成器根据预测评分从未观察到的项目中个性化的选择负样本，和观察到的正样本组成偏序关系对，通过判别器来判断生成的偏序关系是否正确，并根据判断的结果指导生成器更新参数；二者进行迭代的对抗训练，直到最终生成器的推荐结果收敛；

步骤4：输出收敛的推荐结果。

作为优选，步骤1中，首先对隐式反馈和评论信息进行过滤得到所有用户ID和项目ID真实存在的交互数据；然后对过滤后的评论信息进行预处理，仅保留实词，并将所有用户对同一项目的评论进行连接操作，将所有项目的评论补齐到统一长度。

作为优选，步骤2中，对于项目评论信息，通过GolVe词向量模型映射得到每个词的词向量，得到项目评论信息对应的词向量矩阵，通过共享权重对该矩阵进行卷积，然后经池化、全连接得到一个指定维度的向量作为项目的评论特征进行输出；

对于用户给出的隐式反馈，在嵌入层通过潜在特征矩阵将稀疏的用户或项目的one-hot编码映射得到低维的潜在因子向量。

作为优选，步骤3中，融合项目的交互特征和评论特征，通过线性的内积计算用户对项目的预测评分；

在生成对抗的过程中，生成器计算预测评分，通过Softmax函数将预测评分转化为生成样本的分布，根据该分布为用户生成负样本，和正样本的采样组成偏序关系；

判别器通过预测评分来判断上面生成的偏序关系是否正确，用户是否更喜欢正样本；判别器希望更新参数使得正负样本之间的区分尽可能的大，因此，采用如下的方式对判别器的参数φ进行更新：

其中，U表示用户的集合，i⁺,i^-分别表示正、负样本，p_true,G_θ分别表示真实样本和生成样本的分布，D为判别器，D(u,i⁺,i^-)判断偏序关系<i⁺,i^->是否正确，用户u是否更喜欢正样本；

对生成器参数的更新首先要求生成器生成一批负样本和真实样本组成偏序关系，判别器对生成的偏序关系进行判别，判别的结果logD(u,i⁺,i^-)作为回报指导生成器的更新；

其中，I表示项目的集合，θ表示生成器的参数，通过最小化目标函数来对生成器参数θ进行更新。

每轮的迭代中，固定生成器，对判别器的参数进行更新，目标是使判别器在当前条件下能够给出正确的评判结果；之后，固定判别器，训练生成器使其根据目前判别器的判别结果不断更新自己的参数，使生成的负样本更加难以区分；二者进行上述的迭代训练，直到最终生成器的推荐结果收敛。

本发明采用以上技术方案与现有技术相比，具有以下的技术效果：

1.利用卷积神经网络获取项目评论信息的潜在特征表示，通过共享权重获取评论的上下文信息，并通过池化、全连接将上一步得到的上下文特征整合成指定的维度进行输出。相比传统利用词袋模型获取评论主题的方法，该方法提取了评论的上下文语义特征，更加准确的捕获了项目的属性；

2.该方法融合了项目的交互特征和评论信息中获取的项目评论特征，利用评论信息作为辅助信息对隐式反馈数据进行补充，缓解数据的稀疏性；

3.传统的随机采样不能体现采样样本和用户之间的相关性。该方法在对抗的过程中，利用生成器捕捉用户的偏好，从没有观察到的项目中个性化的选择负样本，并利用判别器的评判结果更新生成器的参数。克服了传统采样方法的缺陷，提高了参数推理的有效性。

结合以上三点，本发明所采用的一种基于生成对抗网络的对级排序项目推荐方法能够更加全面和准确的学习到用户偏好和项目的属性，从而提高推荐系统的性能。

附图说明

图1是本发明实施例的流程图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明做进一步详细说明。应当理解，此处描述的具体实施例仅用以解释本发明，并不用于限定本发明。

本发明使用卷积神经网络学习项目评论信息的上下文特征，并融合项目的交互特征和项目的评论特征，缓解数据的稀疏性。最后通过生成器生成个性化的负样本，利用判别器判断生成样本的效果，在对抗的训练过程中更新生成器和判别器的参数，不断提高生成器的推荐性能。

如图1所示，本发明公开了一种基于生成对抗网络的对级排序项目推荐方法，其具体实现包括以下步骤：

步骤1：采集训练数据，对用户给出的隐式反馈(如是否点击、购买、收藏等)以及项目评论信息进行过滤，并对过滤后的评论信息进行预处理。

在推荐领域中，用户的反馈分为显式反馈和隐式反馈，显式反馈可以明确表示用户的喜恶，通常以评分或评级来表示，高的评级表示用户喜欢该项目，而低的评级表示用户不喜欢该项目。而另一种反馈如点击，我们只能认为用户点击过的项目可能是用户喜欢的，但是用户没有点击的不能简单的认为是不喜欢的项目，更可能是用户没有见到这些项目，这种反馈被称作隐式反馈。

本实施例中，首先对隐式反馈和项目评论信息进行过滤得到所有用户ID和项目ID真实存在的交互数据。然后对过滤后的评论信息进行预处理，仅保留实词，并将所有用户对同一项目的评论进行连接操作，以最长的评论长度的0.85作为标准将所有评论补齐到该长度。

步骤2：利用GloVe词向量模型将的评论信息转换为词向量矩阵，利用卷积神经网络学习评论信息的潜在上下文特征作为项目的评论特征；用户给出的结构化的隐式反馈通过潜入层转化为用户交互特征和项目交互特征。

项目评论信息是以非结构化的文本来表示的用户对项目的评价，可以从两个维度来进行特征的提取，根据用户给出过哪些评论来提取用户的特征，根据项目被不同用户给出的评论提取项目的特征，本发明仅从评论中提取项目的评论特征。而隐式反馈信息即用户和项目的交互(点击、购买、收藏等)，例如点击过该项目为‘1’，没有点击过的为‘0’，是一种结构化的数据，我们从隐式反馈中分别提取用户交互特征和项目交互特征。

本实施例中，对于预处理得到的评论信息，首先通过词向量模型Glove将每一个实词映射得到对应的词向量，从而将项目i的评论信息转化为词向量矩阵：

其中表示连接操作，即将词向量组合得到矩阵，为词向量，d表示GloVe模型中词向量的维度，l表示评论中词的数量即评论的长度。

将得到的词向量矩阵作为卷积神经网络的输入，通过卷积操作提取评论中的上下文特征，并通过池化层选取其中最具代表性的特征，全连接层将特征转化为规定的维度进行输出。为了表示方便，本实施例将该过程表示为：

表示从评论信息中提取到的项目评论特征，W表示卷积核，X_i为上一步得到的项目i的词向量矩阵，b是为了防止过拟合而加入的偏置向量。

本实施例中，对于用户给出的隐式反馈信息，在嵌入层通过潜在因子矩阵映射将其转换为低维的隐向量表示。

其中分别表示用户潜在因子矩阵和项目潜在因子矩阵。m,n分别表示用户数和项目数，k为特征向量的维度，v_u,v_i为用户和项目的特征向量，映射得到用户和项目低维的潜在因子向量。

步骤3：在对抗的训练过程中对参数进行优化。生成对抗网络中的生成器根据预测评分从未观察到的项目中个性化的选择负样本，和观察到的正样本组成偏序关系对，通过判别器来判断生成的偏序关系是否正确，并根据判断的结果指导生成器更新参数。二者进行迭代的对抗训练，直到最终生成器的推荐结果收敛。

本实施例中，步骤3的详细步骤为：

步骤3.1：首先对从隐式反馈数据中学习到的项目交互特征和评论中学习到的项目评论特征进行融合，和用户特征p_u进行线性的内积得到用户对项目的预测评分

其中，bⁱ表示项目i的偏置。

步骤3.2：生成器通过预测评分得到生成样本的分布，预测评分代表对用户偏好的估计，根据该分布进行采样可以得到符合用户偏好的个性化负样本。本实施例用Softmax函数将预测的评分转化为样本的分布G_θ，g(i|u)为用户u与项目i的相关度，在推荐领域常常用预测评分进行表示。t表示采样温度，更低的采样温度使采样更多的集中于评分较高的文档。

步骤3.3：判别器判断从真实反馈中采样的正样本i⁺和生成器生成的负样本i-组成的偏序关系<i⁺,i^->是否正确。D(u,i⁺,i^-)表示从生成样本中区分出真实数据的可能性。

D(u,i⁺,i^-)＝ψ(f(i⁺|u)-f(i^-|u))

ψ(x)＝log(1+exp(-x))

判别器希望更新参数使得正负样本之间的区分尽可能的大，因此，本实施例采用如下的方式对判别器φ的参数进行更新。

其中，U表示用户的集合，i⁺,i^-分别表示正、负样本，p_true,G_θ分别表示真实样本和生成样本的分布，D为判别器，D(u,i⁺,i^-)判断偏序关系<i⁺,i^->是否正确，用户u是否更喜欢正样本；

步骤3.4：对生成器参数的更新首先要求生成器生成一批负样本和真实样本组成偏序关系，判别器对生成的偏序关系进行判别，判别的结果作为回报指导生成器的更新。

其中，I表示项目的集合，θ表示生成器的参数，通过最小化目标函数来对生成器参数θ进行更新。

步骤3.5：每轮的迭代中，本实施例固定生成器，对判别器的参数进行更新，目标是使判别器在当前条件下能够给出正确的评判结果。之后，固定判别器，训练生成器使其根据目前判别器的判别结果不断更新自己的参数，使生成的负样本更加难以区分。二者进行上述的迭代训练，直到最终生成器的推荐结果收敛。

步骤4：输出收敛的推荐结果。

应理解，上述实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，而不脱离本发明技术方案的精神和范围，其均应涵盖在本发明的权利要求范围中。

Claims (4)

1.一种基于生成对抗网络的对级排序项目推荐方法，其特征在于，包括以下步骤：

步骤1：采集训练数据，对用户给出的隐式反馈以及项目评论信息进行过滤，并对过滤后的评论信息进行预处理；

步骤2：利用GloVe词向量模型将的项目评论信息转换为词向量矩阵，利用卷积神经网络学习评论信息的潜在上下文特征作为项目的评论特征；通过嵌入层将用户给出的隐式反馈转化为用户交互特征和项目交互特征；

步骤3：在对抗的训练过程中对参数进行优化；

利用生成对抗网络中的生成器根据预测评分从未观察到的项目中个性化的选择负样本，和观察到的正样本组成偏序关系对，通过判别器来判断生成的偏序关系是否正确，并根据判断的结果指导生成器更新参数；二者进行迭代的对抗训练，直到最终生成器的推荐结果收敛；

步骤4：输出收敛的推荐结果。

2.根据权利要求1所述的基于生成对抗网络的对级排序项目推荐方法，其特征在于：步骤1中，首先对隐式反馈和评论信息进行过滤得到所有用户ID和项目ID真实存在的交互数据；然后对过滤后的评论信息进行预处理，仅保留实词，将所有用户对同一项目的评论进行连接操作，并将所有项目的评论补齐到统一长度。

3.根据权利要求1所述的基于生成对抗网络的对级排序项目推荐方法，其特征在于：步骤2中，对于项目评论信息，通过GolVe词向量模型映射得到每个词的词向量，得到项目评论信息对应的词向量矩阵，通过共享权重对该矩阵进行卷积，然后经池化、全连接得到一个指定维度的向量作为项目的评论特征进行输出；

对于用户给出的隐式反馈，在嵌入层通过潜在特征矩阵将稀疏的用户或项目的one-hot编码映射得到低维的潜在因子向量。

4.根据权利要求1所述的基于生成对抗网络的对级排序项目推荐方法，其特征在于：步骤3中，融合项目的交互特征和评论特征，通过线性的内积计算用户对项目的预测评分；

在生成对抗的过程中，生成器计算预测评分，通过Softmax函数将预测评分转化为生成样本的分布，根据该分布为用户个性化的选择负样本，和从真实样本中采样得到的正样本组成偏序关系；

判别器通过预测评分来判断上面生成的偏序关系是否正确，用户是否更喜欢正样本；判别器希望更新参数使得正负样本之间的区分尽可能的大，因此，采用如下的方式对判别器的参数φ进行更新：

其中，U表示用户的集合，i⁺,i^-分别表示正、负样本，p_true,G_θ分别表示真实样本和生成样本的分布，D为判别器，D(u,i⁺,i^-)判断偏序关系<i⁺,i^->是否正确，用户u是否更喜欢正样本；

对生成器参数的更新首先要求生成器生成一批负样本和真实样本组成偏序关系，判别器对生成的偏序关系进行判别，判别的结果logD(u,i⁺,i^-)作为回报指导生成器的更新；

其中，I表示项目的集合，θ表示生成器的参数，通过最小化目标函数来对生成器参数θ进行更新；

每轮的迭代中，固定生成器，对判别器的参数进行更新，目标是使判别器在当前条件下能够给出正确的评判结果；之后，固定判别器，训练生成器使其根据目前判别器的判别结果不断更新自己的参数，使生成的负样本更加难以区分；二者进行上述的迭代训练，直到最终生成器的推荐结果收敛。