CN111325619A - 一种基于联合学习的信用卡欺诈检测模型更新方法及装置 - Google Patents

Abstract

本发明涉及信用卡领域，具体涉及一种基于联合学习的信用卡欺诈检测模型更新方法及装置，该方法及装置先使用卷积神经网络构建欺诈检测模型，将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数，对多个模型更新参数进行参数融合计算，得到新的模型参数，使用新的模型参数对多个本地的欺诈检测模型进行参数更新，通过不同的客户端共享模型参数的形式借助其他客户端的数据信息训练更新自己的欺诈检测模型。在保护各客户端数据隐私不受侵犯的前提下提高模型效率。

Description

一种基于联合学习的信用卡欺诈检测模型更新方法及装置

技术领域

本发明涉及信用卡领域，具体而言，涉及一种基于联合学习的信用卡欺诈检测模型更新方法及装置。

背景技术

随着近几十年经济全球化的迅速发展，信用卡在商业交易中越来越流行。相应地信用卡欺诈问题也随之涌现，检测信用卡欺诈交易成为了银行业面临的挑战之一。互联网技术的普及，传统金融领域迎来了创新，信用卡欺诈检测系统是互联网金融科技的一个重要研究领域，信用卡欺诈检测系统利用用户的用户信息和信用卡交易事务数据，通过其核心算法，为银行和金融平台计算出每一位用户的风险值，预测用户是否为欺诈用户，从而帮助银行或金融公司降低风险，提高利润，系统最核心的算法分为两类：

1.基于规则的传统信用卡欺诈识别方法，作为传统金融信贷诈骗识别方法的代表，基于规则的欺诈检测模型是目前应用的最广泛的模型。该方法通过该领域内的专家按照当前的业务制定一系列的规则，生成规则列表。当需要对用户进行信用风险评估时，按照生成的规则列表进行匹配，最后根据规则的匹配情况来最终确定该用户的诈骗风险评级。

2.基于机器学习的模型，随着机器学习技术的兴起，大部分的欺诈检测模型采用机器学习的方法建模系统，不同于基于规则的模型，使用机器学习的方法的欺诈检测系统不需要过多的借助领域专家的经验。

基于规则的信贷诈骗识别方法的缺点：无法解决数据特征、数据样本量过大的问题，基于规则的欺诈检测方法需要有经验的专家对不同的特征及其组合进行详细评估，最后再根据用户的信息和行为数据总结出规则，对于大规模数据特征，对每种可能的情况进行人工排查和列举是不可能的。基于规则的方法主要依靠有经验的专家，工作量大且成本也非常高昂。

基于传统的机器学习的方法缺点：首先，从信用卡交易数据情况分析，正常情况下，正常用户的数量远大于欺诈用户的数量，目前大多数采用的机器学习方法为有监督的学习模型，有监督的学习方法很容易受到数据不平衡的影响，这就使得在监督学习过程中，分类模型由于被大量的负样本所遮蔽，从而很难发现正样本的存在模式。其次，现代技术，尤其是机器学习方面的创新，已经被应用于分析客户的消费模式和阻止不定期或可能欺诈的交易。然而，无论是基于金融交易信息与客户隐私关系，还是作为银行专有信息来源的重要性，各个银行使用的数据都被认为是非常敏感的。因为这些隐私问题，针对欺诈检测的一些机器学习模型(如神经网络)通常只使用每个银行单独收集的内部数据。对数据隐私的日益关注和数据共享带来限制和障碍，使得协调大规模协作研究变得困难。即从传统的机器学习方法来分析，传统的机器学习将所有训练数据集中于某一台或者是单个数据中心里，由于信用卡交易数据的敏感性和隐私性，各个银行或者金融公司无法共享数据，所以传统的机器学习方法也无法借助第三方的数据来帮助训练自己的模型，在一定程度上延长了训练时间和影响模型准确度。

发明内容

本发明实施例提供了一种基于联合学习的信用卡欺诈检测模型更新方法及装置，以至少解决现有的欺诈检测系统不能保护数据隐私的技术问题。

根据本发明的一实施例，提供了一种基于联合学习的信用卡欺诈检测模型更新方法，包括以下步骤：

S101:多个客户端使用卷积神经网络构建欺诈检测模型；

S102:多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

S103:对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

S104:使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

进一步地，方法还包括：

S105:通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新。

进一步地，步骤S102及S103包括：

卷积神经网络中目标函数为：

其中f_i(w)是在数据集中样本(x_i,y_i)模型参数为w的情况下的预测损失，n为所有样本总量；假设每个客户端所包含的样本量为n_k，那么总的损失函数为：

其中

对于固定的学习率η，每个客户端在第t轮的模型参数w_t下计算平均梯度g_k，

集合这些损失，更新自己的参数w_t+1：

对于所有的客户端k，

从N个客户端随机挑选K个客户端将自己第t轮对模型的更新参数

与其它被选中的客户端的模型更新的参数融合，产生第t+1轮新的模型参数W_t+1：

进一步地，欺诈检测模型构造为：输入层、卷积层、全连接层、输出层；其中：

第一层为输入层由从数据中提取的原始特征组成；各卷积层用来计算数据的抽象特性；全连接层对数据的抽象特性进行整合，然后进行归一化，对各种分类情况输出一个概率；最后一层的输出层对应模型产生的分类，判断用户为正常用户还是欺诈用户。

进一步地，方法在步骤S102之前还包括：

运用合成少数类过采样技术算法对本地信用卡交易数据集中的少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新。

根据本发明的另一实施例，提供了一种基于联合学习的信用卡欺诈检测模型更新装置，包括：

模型构建单元，用于多个客户端使用卷积神经网络构建欺诈检测模型；

模型更新参数单元，用于多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

参数融合计算单元，用于对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

参数更新单元，用于使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

进一步地，装置还包括：

迭代单元，用于通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新。

进一步地，装置还包括：

数据更新单元，用于运用合成少数类过采样技术算法对本地信用卡交易数据集中的少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新。

一种存储介质，存储介质存储有能够实现上述任意一项基于联合学习的信用卡欺诈检测模型更新方法的程序文件。

一种处理器，处理器用于运行程序，其中，程序运行时执行上述任意一项的基于联合学习的信用卡欺诈检测模型更新方法。

本发明实施例中的基于联合学习的信用卡欺诈检测模型更新方法及装置，不同于传统的信用卡欺诈检测系统中用到的机器学习方法将所有训练数据集中于某一台或者是单个数据中心里，本发明通过不同的客户端(银行、金融公司)共享模型参数的形式借助其他客户端(银行、金融公司)的数据信息训练更新自己的欺诈检测模型。在保护各客户端(银行、金融公司)数据隐私不受侵犯的前提下提高模型效率。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1为本发明基于联合学习的信用卡欺诈检测模型更新方法的流程图；

图2为本发明基于联合学习的信用卡欺诈检测模型更新方法的优选流程图；

图3为本发明基于联合学习的信用卡欺诈检测模型更新方法中欺诈检测模型的框架图；

图4为本发明基于联合学习的信用卡欺诈检测模型更新方法中联合学习的框架图；

图5为本发明基于联合学习的信用卡欺诈检测模型更新方法中联合学习的流程图；

图6为本发明基于联合学习的信用卡欺诈检测模型更新装置的模块图；

图7为本发明基于联合学习的信用卡欺诈检测模型更新装置的优选模块图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

现有欺诈检测系统使用的是每个客户端(银行、金融公司)单独收集的内部数据，单独训练自己的模型，由于信用卡交易数据的极度不平衡性，很多客户端欺诈样本数量相比正常用户样本数量极少，同时，各个客户端所拥有的总样本量是十分庞大的，从而在一定程度上影响模型的训练过程和效率。

针对目前现有的欺诈检测系统不能保护银行数据隐私的问题，本发明旨在提供一种基于联合学习的多方机器学习方法及装置，首先该方法及装置能缓解不平衡数据带来的影响，其次还能做到在不共享数据情况下也可借助第三方提供的模型参数进行协作训练，共享欺诈检测模型，帮助提升模型准确率和降低模型训练时间。

实施例1

根据本发明一实施例，提供了一种基于联合学习的信用卡欺诈检测模型更新方法，参见图1，包括以下步骤：

S101:多个客户端使用卷积神经网络构建欺诈检测模型；

S102:多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

S103:对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

S104:使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

本发明不同于传统的机器学习方法，虽然底层所使用的模型为卷积神经网络，但本发明基于联合学习的算法，不再需要把训练数据集中于某台机器或者是单个的数据中心里。可以使得多个银行或公司不共享数据的情况下也可借助第三方提供的模型参数，以协作的形式学习共享欺诈检测模型。

进一步地，参见图2，方法还包括：

S105:通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新，不断的迭代更新直到达到客户端想要的模型准确率。

下面以具体实施例，对本方法进行详细说明，本发明一种基于联合学习的信用卡欺诈检测模型更新方法包括(1)通过数据采样以平衡数据正负样本比例(2)底层卷积神经网络模型框架设计(3)基于联合学习框架设计。

首先，为了缓解正负样本数据种类不平衡的影响，采用SMOTE(SyntheticMinority Oversampling Technique)即合成少数类过采样技术。

其次，设计底层欺诈检测模型---卷积神经网络(CNN)结构。本发明根据信用卡交易数据的特征和分布情况设计适合的卷积神经网络结构。

最后，根据底层的卷积神经网络结构特性，设计联合学习框架。

下面结合附图，对本发明的具体流程加以说明。

1.数据预处理。各个银行或金融公司对自己的本地信用卡交易数据集的数据进行输入，根据各个本地信用卡交易数据集的数据特征和数据分布不均的情况，正负样本数据种类极度不均衡的影响，我们先对本地信用卡交易数据集运用SMOTE(合成少数类过采样技术)算法。对少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新。

2.底层欺诈检测模型设计。欺诈检测模型使用卷积神经网络构建模型，第一层为输入层由从数据中提取的原始特征组成，网络更高层的各卷积层(图3中的第2至4个层块)用来计算数据的抽象特性，这些抽象特性代表着输入与输出的关系，全连接层(图3中的第5个层块)对数据的抽象特性进行整合，然后进行归一化，对各种分类情况都输出一个概率，最后一层的输出层对应模型产生的分类，判断用户为正常用户还是欺诈用户，具体框架如附图3所示。

3.联合学习框架设计。联合学习是使用多个本地训练数据集即运用SMOTE算法更新后的本地信用卡交易数据集训练欺诈检测模型，并通过聚合本地客户端计算出的模型更新参数产生中心服务器新的模型参数，作为共享欺诈检测模型参数的更新，参见图4-5。

首先，每个银行或金融公司作为一个客户端，每个客户端先从云端(服务器)下载当前版本的欺诈检测模型，保证每个客户端使用相同的底层模型框架即结构相同的卷积神经网络，共有N个客户端，每个客户端用自己更新后的本地信用卡交易数据集来训练和改进自己本地的欺诈检测模型。基于底层欺诈检测模型为卷积神经网络，卷积神经网络中目标函数：

其中f_i(w)是在数据集中样本(x_i,y_i)模型参数为w的情况下的预测损失，n为所有样本总量。

假设每个客户端所包含的样本量为n_k，那么总的损失函数可写成：

其中

对于固定的学习率η，每个客户端在第t轮的模型参数w_t下计算平均梯度g_k，

中心服务器全局共享模型中的中心服务器集合这些损失，更新自己的参数w_t+1：

对于所有的客户端k，

由(3)可知，

从N个客户端随机挑选K个客户端将自己第t轮对模型的改进或更新参数

传送至云端(中心服务器)，与其它被选中的客户端的模型更新的参数融合，产生第t+1轮新的模型参数W_t+1：

作为共享欺诈检测模型参数的更新，然后各个客户端用共享欺诈检测模型的参数更新自己的模型，不断的迭代更新直到达到客户端想要的模型准确率。具体框架及流程如附图4-5所示。

实施例2

根据本发明另一实施例，提供了一种装置，参见图6，包括：

模型构建单元201，用于多个客户端使用卷积神经网络构建欺诈检测模型；

模型更新参数单元202，用于多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

参数融合计算单元203，用于对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

参数更新单元204，用于使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

该装置在减少正负样本不均衡影响的同时使得各个客户端之间通过共享底层模型参数从而获得其他客户端学习到的知识帮助自身训练欺诈检测模型，因为不再需要将各个客户端的训练数据集上传至数据中心，在不侵犯各客户端数据隐私和敏感性的同时，在一定程度上减少了训练时间，节省训练模型的成本，提升了整个模型准确率，集数据平衡、模型训练、参数共享、模型预测于一体。可以利用来自不同银行的数据集的同时但又不共享各银行的数据集，以达到保护银行数据隐私的目的。

作为优选的技术方案中，参见图7，装置还包括：

迭代单元205，用于通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新，不断的迭代更新直到达到客户端想要的模型准确率。

作为优选的技术方案中，参见图7，装置还包括：

数据更新单元200，用于运用合成少数类过采样技术算法对本地信用卡交易数据集中的少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新，消除各个本地信用卡交易数据集的数据特征和数据分布不均的情况导致的正负样本数据种类极度不均衡，该数据更新单元200可连接在模型构建单元201之前或在模型构建单元201和模型更新参数单元202之间。

实施例3

一种存储介质，存储介质存储有能够实现上述任意一项基于联合学习的信用卡欺诈检测模型更新方法的程序文件。

实施例4

一种处理器，处理器用于运行程序，其中，程序运行时执行上述任意一项的基于联合学习的信用卡欺诈检测模型更新方法。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的系统实施例仅仅是示意性的，例如单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种基于联合学习的信用卡欺诈检测模型更新方法，其特征在于，包括以下步骤：

S101:多个客户端使用卷积神经网络构建欺诈检测模型；

S102:多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

S103:对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

S104:使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

S105:通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新。

3.根据权利要求1所述的方法，其特征在于，所述步骤S102及S103包括：

卷积神经网络中目标函数为：

其中f_i(w)是在数据集中样本(x_i,y_i)模型参数为w的情况下的预测损失，n为所有样本总量；假设每个客户端所包含的样本量为n_k，那么总的损失函数为：

其中

对于固定的学习率η，每个客户端在第t轮的模型参数w_t下计算平均梯度g_k，

集合这些损失，更新自己的参数w_t+1：

对于所有的客户端k，

从N个客户端随机挑选K个客户端将自己第t轮对模型的更新参数

与其它被选中的客户端的模型更新的参数融合，产生第t+1轮新的模型参数W_t+1：

4.根据权利要求1所述的方法，其特征在于，所述欺诈检测模型构造为：输入层、卷积层、全连接层、输出层；其中：

第一层为输入层由从数据中提取的原始特征组成；各卷积层用来计算数据的抽象特性；全连接层对数据的抽象特性进行整合，然后进行归一化，对各种分类情况输出一个概率；最后一层的输出层对应模型产生的分类，判断用户为正常用户还是欺诈用户。

5.根据权利要求1所述的方法，其特征在于，所述方法在步骤S102之前还包括：

运用合成少数类过采样技术算法对本地信用卡交易数据集中的少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新。

6.一种基于联合学习的信用卡欺诈检测模型更新装置，其特征在于，包括：

模型构建单元，用于多个客户端使用卷积神经网络构建欺诈检测模型；

模型更新参数单元，用于多个客户端将本地信用卡交易数据集输入至本地的欺诈检测模型，计算出各自的模型更新参数；

参数融合计算单元，用于对多个客户端各自的模型更新参数进行参数融合计算，得到新的模型参数；

参数更新单元，用于使用新的模型参数对多个本地的欺诈检测模型进行参数更新。

7.根据权利要求6所述的装置，其特征在于，所述装置还包括：

迭代单元，用于通过迭代方式使用新的模型参数对多个本地的欺诈检测模型进行参数迭代更新。

8.根据权利要求6所述的装置，其特征在于，所述装置还包括：

数据更新单元，用于运用合成少数类过采样技术算法对本地信用卡交易数据集中的少数类样本进行分析并根据少数类样本人工合成新样本添加到本地信用卡交易数据集中进行更新。

9.一种存储介质，其特征在于，所述存储介质存储有能够实现权利要求1至5中任意一项所述基于联合学习的信用卡欺诈检测模型更新方法的程序文件。

10.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至5中任意一项所述的基于联合学习的信用卡欺诈检测模型更新方法。

Images