CN111625437A - 风控模型的监控方法及装置 - Google Patents

Abstract

本发明公开了一种风控模型的监控方法及装置。其中，该方法包括：根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标。本发明解决了相关技术中线上风控模型上线后，缺乏对模型的实时监控的技术问题。

Description

风控模型的监控方法及装置

技术领域

本发明涉及近场通信领域，具体而言，涉及一种风控模型的监控方法及装置。

背景技术

通常风控模型上线后，开发人员和业务使用方很难监测模型性能的衰退，缺乏对模型性能和业务性能的实时监控，也很难确定模型迭代的周期。目前，模型上线后的监控方案主要是简单从模型的性能上做监控，缺乏对业务指标的监控和特征的监控。评价标准相对单一，不能够全面地监控模型各方面的表现，也不能反映模型性能变化的趋势性，缺乏预警机制。

针对上述的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种风控模型的监控方法及装置，以至少解决相关技术中线上风控模型上线后，缺乏对模型的实时监控的技术问题。

根据本发明实施例的一个方面，提供了一种风控模型的监控方法，包括：根据风控模型的配置文件确定所述风控模型的产出数据，其中，所述产出数据包括需要监控的多个模型指标；调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标。

可选的，多个所述模型指标包括所述风控模型的基础性能参数，业务参数，用户特征；调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标包括：调用性能监控模块监控所述基础性能参数，所述基础性能参数包括下列至少之一：AUC指数，KS指数，PSI指数；调用业务监控模块监控所述业务参数，所述业务参数包括目标业务的用户数量参数和金额参数；调用特征监控模块监控所述用户特征，所述用户特征包括总用户特征和坏用户特征，其中，所述坏用户为风险超过第一预设风险阈值的用户。

可选的，所述用户数量参数包括：所述风控模型用户的总数量，好用户的数量，坏用户的数量，所述好用户的通过率，坏用户的拦截率，其中，所述好用户为风险低于第二预设风险阈值的用户；所述金额参数包括：总借贷金额，违约金额，违约人数，金额逾期率，余额逾期率。

可选的，调用性能监控模块监控所述基础性能参数包括：确定所述基础性能参数的计算值与预设值的偏移量；在所述偏移量超过预设偏移量的情况下，确定所述基础性能参数异常；在所述偏移量未超过预设偏移量的情况下，确定所述基础性能参数正常；在确定所述基础性能参数异常的情况下，输出异常的所述基础性能参数的属性和发生异常的时间，所述属性包括下列至少之一：名称，标识。

可选的，调用业务监控模块监控所述业务参数包括：实时监控并记录所述业务参数。

可选的，调用特征监控模块监控所述用户特征包括：确定所述用户特征和所述用户特征的变化参数，其中，所述变化参数用于体现所述用户特征的变化情况；在所述用户特征超出预设数量阈值或者所述变化参数超出预设变化阈值的情况下，确定所述用户特征异常；在所述用户特征未超出预设数量阈值且所述变化参数未超出预设变化阈值的情况下，确定所述用户特征正常；在确定所述用户特征异常的情况下，输出所述用户特征，所述用户特征的变化参数，和发生异常的时间。

可选的，调用多个监控模块对所述产出数据中的多个所述模型指标进行监控之后，还包括：按照预设频率生成监控日志，所述监控日志包括监控的所有模型指标；将所述监控日志存储在预设的数据库中。

根据本发明实施例的另一方面，还提供了一种风控模型的监控装置，包括：确定模块，用于根据风控模型的配置文件确定所述风控模型的产出数据，其中，所述产出数据包括需要监控的多个模型指标；监控模块，用于调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标。

根据本发明实施例的另一方面，还提供了一种存储介质，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行上述中任意一项所述的风控模型的监控方法。

根据本发明实施例的另一方面，还提供了一种处理器，所述处理器用于运行程序，其中，所述程序运行时执行上述中任意一项的风控模型的监控方法。

在本发明实施例中，采用根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标的方式，通过多个监控模块，分别对风控模型的多个模型指标进行监控，达到了对风控模型的多个模型指标进行监控的目的，从而实现了对风控模型进行实时监控的技术效果，进而解决了相关技术中线上风控模型上线后，缺乏对模型的实时监控的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的一种风控模型的监控方法的流程图；

图2是根据本发明实施方式的风控模型的监控方法的流程图；

图3是根据本发明实施方式的模型特征的监控的示意图；

图4是根据本发明实施例的一种风控模型的监控装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

根据本发明实施例，提供了一种风控模型的监控方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本发明实施例的一种风控模型的监控方法的流程图，如图1所示，该方法包括如下步骤：

步骤S102，根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；

步骤S104，调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标。

通过上述步骤，采用根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标的方式，通过多个监控模块，分别对风控模型的多个模型指标进行监控，达到了对风控模型的多个模型指标进行监控的目的，从而实现了对风控模型进行实时监控的技术效果，进而解决了相关技术中线上风控模型上线后，缺乏对模型的实时监控的技术问题。

上述配置文件可以为上述风控模型的配置文件，包括风控模型的相关信息，根据所述配置文件可以确定风控模型的产出数据，上述产出数据包括需要监控的风控模型的多个模型指标，具体的，多个模型指标包括风控模型的基础性能参数，业务参数，用户特征。

通过多个监控模块分别对多个模型指标进行同时监控，提高监控效率和监控的范围，而且不同的监控模块之间相互独立，互不干扰，保证了监控系统的稳定性，在需要对监控系统进行扩展时，也即是需要新增监控的模型指标的情况下，可以在不影响其他监控模块工作的情况下，建立新的监控模块，以监控新增的模型指标。

具体的，多个模型指标包括风控模型的基础性能参数，业务参数，用户特征；调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标包括：调用性能监控模块监控基础性能参数，基础性能参数包括下列至少之一：AUC指数，KS指数，PSI指数；调用业务监控模块监控业务参数，业务参数包括目标业务的用户数量参数和金额参数；调用特征监控模块监控用户特征，用户特征包括总用户特征和坏用户特征，其中，坏用户为风险超过第一预设风险阈值的用户。

从而通过基础性能参数，业务参数和用户特征对风控模型进行全面的监控，提高了监控范围，增强对风控模型的运行了解。

上述用户数量参数包括：风控模型用户的总数量，好用户的数量，坏用户的数量，好用户的通过率，坏用户的拦截率，其中，好用户为风险低于第二预设风险阈值的用户；金额参数包括：总借贷金额，违约金额，违约人数，金额逾期率，余额逾期率。

可选的，调用性能监控模块监控基础性能参数包括：确定基础性能参数的计算值与预设值的偏移量；在偏移量超过预设偏移量的情况下，确定基础性能参数异常；在偏移量未超过预设偏移量的情况下，确定基础性能参数正常；在确定基础性能参数异常的情况下，输出异常的基础性能参数的属性和发生异常的时间，属性包括下列至少之一：名称，标识。

上述确定基础性能参数正常的情况下可以输出对应的表示正常的字段，确定基础性能参数异常的情况下可以输出对应的表示异常的字段。例如，评价指标包括AUC/KS/PSI，正常情况下，auc/ks/psi字段为当前模型的性能的计算值，delta_auc/delta_ks/delta_psi为当前值和设定阈值之间的偏移量。当偏移量超过模型开发者设定的阈值，就会触发报警，同时在error_msg字段中提示出哪个指标出现了问题。is_error＝0说明此时模型性能符合预期，无特殊情况。但是，is_error＝1则说明此时模型出现了问题，error_msg字段会提示出异常的指标和偏移量。create_time字段用来记录出现异常的时间，便于开发者能够记录模型的历史情况，做出判断。

可选的，调用业务监控模块监控业务参数包括：实时监控并记录业务参数。

还可以将记录的业务参数以图表的形式进行显示，实时进行更新。

可选的，调用特征监控模块监控用户特征包括：确定用户特征和用户特征的变化参数，其中，变化参数用于体现用户特征的变化情况；在用户特征超出预设数量阈值或者变化参数超出预设变化阈值的情况下，确定用户特征异常；在用户特征未超出预设数量阈值且变化参数未超出预设变化阈值的情况下，确定用户特征正常；在确定用户特征异常的情况下，输出用户特征，用户特征的变化参数，和发生异常的时间。

上述用户特征可以是用户名称，账户状态，账户等级等信息，还可以是用户的工作情况，支出收入情况，存款情况等属性信息，上述特征变化情况可以用多种数据体现，例如，期望值，方差，还可以是PSI值，上述调用特征监控模块监控用户特征，可以从两方面进行监控，一方面监控风控模型总体用户的用户特征的分布及特征的PSI；另一方面，监控风控模型的坏用户的特征分布及特征的PSI，与上述基础性能参数类似，上述确定用户特征正常的情况下可以输出对应的表示正常的字段，确定用户特征异常的情况下可以输出对应的表示异常的字段。

可选的，调用多个监控模块对产出数据中的多个模型指标进行监控之后，还包括：按照预设频率生成监控日志，监控日志包括监控的所有模型指标；将监控日志存储在预设的数据库中。

通过上述监控日志可以对风控模型的历史记录进行查找，方便用户对风控模型的监控数据进行回溯。

需要说明的是，本实施例还提供了一种可选的实施方式，下面对该实施方式进行详细说明。

本实施方式提供了一种能够对上线后的模型进行监控的工具。包括实时监控模型性能和业务指标的变化，以及模型所使用的特征的变化及排序性的变化，并能将结果及时反馈给模型开发人员和业务使用方。

在完成模型开发后，最重要的一个环节就是模型评估与模型的监控。在各种数据竞赛中，评估一个模型的好坏，通常会用AUC、KS等指标。但在实际场景中，模型上线后需要关注的不仅仅是这些模型的评估指标。更加需要关注的是模型整体的稳定性以及业务上的意义。但目前评估模型性能的方法，主流的做法还是从模型稳定性和区分度两个方面去监控，即通过PSI和KS两个指标进行监控。

1)PSI(群体稳定性指标，population stability index)：用于评估模型的稳定性。

计算公式PSI＝sum((实际占比-预期占比)/ln(实际占比/预期占比))，其具体的含义如表1所示。

表1 PSI值与含义的关系表

PSI值	含义	对应处理方案
			<0.1	变化不显著	无
0.1–0.25	有一定波动	检查其他监控指标
			>0.25	分布发生较大改变	要对特征进行分析

2)KS(洛伦兹曲线，Kolmogorov-Smirnov)：用于评估模型的区分度。

KS指标用于衡量好坏样本累计分布之间的差异，好坏样本累计差异越大，KS值越大，说明模型的风险区分能力越强。通常来说，KS>0.2以上，说明模型具有一定的区分度。

KS值的计算方法：KS＝max(TPR-FPR)。其中TPR(true positive rate,真正类率)计算公式为TPR＝TP/(TP+FN)，表示分类器所识别出的正实例占所有正实例的比例。而FPR(false positive rate,假正类率)计算公式为FPR＝FP/(FP+TN)，表示分类器错认为正类的负实例占所有负实例的比例。其中：

TP：真实为正类且预测为正类的数目；

FN：真实为正类且预测为负类的数目；

FP：真实为负类的且预测为正类的数目；

TN：真实为负类的且预测为负类的数目。

图2是根据本发明实施方式的风控模型的监控方法的流程图，如图2所示，本实施方式不仅能够考虑模型的基本性能，同时增加了对业务性能和模型特征的监控。且监控结果每天落表，能够观测到模型变化的趋势、记录模型的历史信息，也便于开发者能够回溯模型性能的变化。

模型开发者只需要提供一个配置文件，该工具会自动读取配置文件中的信息，并计算出相应的监控指标。包括：模型名称及作用的业务线，模型预测结果表，模型的特征表，模型的AUC和KS值，模型指标允许的偏移量，特征的分布，坏用户的特征的分布等。

当模型上线后，本实施方式考虑从以下3个方面对模型进行监控：

1、模型的基本性能：评价指标包括AUC/KS/PSI。

正常情况下，auc/ks/psi字段为当前模型的性能的计算值，delta_auc/delta_ks/delta_psi为当前值和设定阈值之间的偏移量。当偏移量超过模型开发者设定的阈值，就会触发报警，同时在error_msg字段中提示出哪个指标出现了问题。is_error＝0说明此时模型性能符合预期，无特殊情况。

但是，is_error＝1则说明此时模型出现了问题，error_msg字段会提示出异常的指标和偏移量。create_time字段用来记录出现异常的时间，便于开发者能够记录模型的历史情况，做出判断。

2、模型对应的业务性能：包括基于用户维度的监控和基于金额的监控。用户维度的监控包括：总用户数的变化，分桶内好坏用户数的变化及累计占比，好用户的通过率和坏用户的拦截率等；金额维度的监控包括：总借贷金额，违约金额，违约人数，金额逾期率和余额逾期率等。

3、模型特征的监控：从两方面进行监控，一方面监控特征的分布及特征的PSI；另一方面，监控坏用户的特征分布及特征的PSI。

当检测到异常时，error_msg字段会提示出异常的特征名称，偏移值delta_psi以及异常发生的时间，提示模型开发者关注异常情况。图3是根据本发明实施方式的模型特征的监控的示意图，如图3所示，在2019年3月11日，模型的cid_card_pay_count特征出现波动，psi为0.3711，超过设定的阈值，触发异常报警。而后续几天均无异常。

本实施方式的关键点是对业务性能的监控方法和对特征的监控方法的设计思路。一般的模型监控可能并不会监控模型对业务的影响。另外，对特征的监控可能只停留在计算特征的PSI这一层面。本实施方式会关注坏用户的特征变化，当坏用户的特征PSI发生变化时，可能说明业务上好坏用户的比例发生了变化，这个时候就要引起重视了。同时，当特征的排序性发生变化的时候，也是异常情况。这些功能都可以通过在配置文件中设置参数，达到监控和追踪的目标。当检测到超过设定的参数值的时候，会及时触发报警。

本实施方式具有以下几点优点：1)除了对模型的基本性能做监控外，还能监控模型的业务性能和特征的变化，监控日志每天都会被记录，方便模型开发者回溯模型的历史性能；2)该工具对模型开发者而言，使用方便，配置简单，容易上手，且运行速度快；监控报警时能够直观提示出异常的信息，帮助模型开发者快速定位异常；3)该工具有一定的灵活性，模型开发者可以选择3种监控方式中的1种或多种；4)该工具的框架有很大的可扩展性，模型开发者可以根据自己的需求，定制自己想监控的指标。

本实施方式已经投入生产环境使用，证明可行。模型开发者可以查询到模型每天的参数变化，以及异常信息，达到了追踪和监控模型性能的目的。

具体而言，在金融软件的实践场景中，该发明主要用于风控模型和营销模型的监控。例如风控模型中的A卡和B卡，营销模型中的营销券响应度模型等。该工具能准确预警模型性能的下降和特征的异常情况，提醒开发者和业务使用方及时做出处理。

图4是根据本发明实施例的一种风控模型的监控装置的示意图，如图4所示，根据本发明实施例的另一方面，还提供了一种风控模型的监控装置，包括：确定模块42和监控模块44，下面对该装置进行详细说明。

确定模块42，用于根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；监控模块44，与上述确定模块42相连，用于调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标。

通过上述装置，采用确定模块42根据风控模型的配置文件确定风控模型的产出数据，其中，产出数据包括需要监控的多个模型指标；监控模块44调用多个监控模块对产出数据中的多个模型指标进行监控，其中，监控模块用于监控对应的模型指标的方式，通过多个监控模块，分别对风控模型的多个模型指标进行监控，达到了对风控模型的多个模型指标进行监控的目的，从而实现了对风控模型进行实时监控的技术效果，进而解决了相关技术中线上风控模型上线后，缺乏对模型的实时监控的技术问题。

根据本发明实施例的另一方面，还提供了一种存储介质，存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行上述中任意一项的风控模型的监控方法。

根据本发明实施例的另一方面，还提供了一种处理器，处理器用于运行程序，其中，程序运行时执行上述中任意一项的风控模型的监控方法。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种风控模型的监控方法，其特征在于，包括：

根据风控模型的配置文件确定所述风控模型的产出数据，其中，所述产出数据包括需要监控的多个模型指标；

调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标。

2.根据权利要求1所述的方法，其特征在于，多个所述模型指标包括所述风控模型的基础性能参数，业务参数，用户特征；

调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标包括：

调用性能监控模块监控所述基础性能参数，所述基础性能参数包括下列至少之一：AUC指数，KS指数，PSI指数；

调用业务监控模块监控所述业务参数，所述业务参数包括目标业务的用户数量参数和金额参数；

调用特征监控模块监控所述用户特征，所述用户特征包括总用户特征和坏用户特征，其中，所述坏用户为风险超过第一预设风险阈值的用户。

3.根据权利要求2所述的方法，其特征在于，所述用户数量参数包括：

所述风控模型用户的总数量，好用户的数量，坏用户的数量，所述好用户的通过率，坏用户的拦截率，其中，所述好用户为风险低于第二预设风险阈值的用户；

所述金额参数包括：总借贷金额，违约金额，违约人数，金额逾期率，余额逾期率。

4.根据权利要求2所述的方法，其特征在于，调用性能监控模块监控所述基础性能参数包括：

确定所述基础性能参数的计算值与预设值的偏移量；

在所述偏移量超过预设偏移量的情况下，确定所述基础性能参数异常；在所述偏移量未超过预设偏移量的情况下，确定所述基础性能参数正常；

在确定所述基础性能参数异常的情况下，输出异常的所述基础性能参数的属性和发生异常的时间，所述属性包括下列至少之一：名称，标识。

5.根据权利要求2所述的方法，其特征在于，调用业务监控模块监控所述业务参数包括：

实时监控并记录所述业务参数。

6.根据权利要求2所述的方法，其特征在于，调用特征监控模块监控所述用户特征包括：

确定所述用户特征和所述用户特征的变化参数，其中，所述变化参数用于体现所述用户特征的变化情况；

在所述用户特征超出预设数量阈值或者所述变化参数超出预设变化阈值的情况下，确定所述用户特征异常；在所述用户特征未超出预设数量阈值且所述变化参数未超出预设变化阈值的情况下，确定所述用户特征正常；

在确定所述用户特征异常的情况下，输出所述用户特征，所述用户特征的变化参数，和发生异常的时间。

7.根据权利要求1所述的方法，其特征在于，调用多个监控模块对所述产出数据中的多个所述模型指标进行监控之后，还包括：

按照预设频率生成监控日志，所述监控日志包括监控的所有模型指标；

将所述监控日志存储在预设的数据库中。

8.一种风控模型的监控装置，其特征在于，包括：

确定模块，用于根据风控模型的配置文件确定所述风控模型的产出数据，其中，所述产出数据包括需要监控的多个模型指标；

监控模块，用于调用多个监控模块对所述产出数据中的多个所述模型指标进行监控，其中，所述监控模块用于监控对应的模型指标。

9.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行权利要求1至7中任意一项所述的风控模型的监控方法。

10.一种处理器，其特征在于，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至7中任意一项所述的风控模型的监控方法。

Images