CN110808581A - 一种基于dbn-svm的主动配电网电能质量预测方法 - Google Patents

Abstract

一种基于DBN‑SVM的含DG主动配电网电能质量预测方法，包括：输入输出数据预处理；对DBN模型的各层RBM进行预训练；对DBN模型进行微调；基于DBN对影响电能质量的环境指标进行特征提取；基于顶层支持向量回归机进行电能质量稳态指标预测；将预测结果反归一化，并进行误差分析。本发明的优点是：1、利用DBN‑SVM模型对含DG配电网电能质量进行了效果良好的预测，并能在传统SVM的基础上增加误差率落在低值区间的概率，提高预测精度；2、通过无监督的逐层训练和有监督的整体权值微调，得到完整的DBN底层结构，为顶层SVM提供特征矩阵；3、顶层SVM经网格法参数寻优后对电能质量实现有效预测。

Description

一种基于DBN-SVM的主动配电网电能质量预测方法

技术领域

本发明涉及一种基于DBN-SVM的主动配电网电能质量预测方法，属电气工程和电能质量领域。

背景技术

主动配电网，是指通过利用灵活拓扑结构的网络来管理潮流，能对分布式能源设备进行主动管理和控制的配电系统。相对于传统配电网来说，主动配电网具备一定分布式可控资源，具有较完善的可控水平，具有实现协调优化管理的管控中心，具有可灵活调节的网络拓扑结构。与微电网相比，其不同主要在于微电网用于小电网和孤岛情况下的并网，而主动配电网用于大电网常态并网和孤岛状态。主动配电网的控制中心可以对主网、配电网、用户侧负荷及分布式电源进行监测，并提出相应的优化协调控制策略，它不仅能提高供电可靠性和供电质量、提升能源利用效率，还能降低电网运营成本、减少系统故障。

由于主动配电网中分布式电源(Distributed Generation，DG)渗透率较高，其具有的随机性、波动性、分散性和不可调度性等不稳定的特性，容易引起配电网各节点出现电压波动与闪变、谐波畸变、过电压等电能质量问题。实现主动配电网中电能质量态势预测，为实现配电网控制策略和电能质量主动控制提供基础和前提，有利于改善电能质量，对电网安全经济运行、提高工业产品质量、保障科学实验正常进行及降低能耗等都有重要意义。

当前，利用深度信念网络(DBN)结合支持向量机(SVM)对主动配电网进行电能质量预测的研究成果较少。大部分研究将深度置信网络运用于负荷预测领域：如申请号为CN201810364330的专利提出一种基于DBN的24小时电力负荷预测方法；申请号为CN201811356210的专利提出一种基于相似日法和PSO-DBN的电力系统短期负荷预测方法。也有部分研究将DBN运用于用电量预测、功率预测方面：如申请号为CN201710465683的专利提出针对低压用户的基于深度学习的用电量预测方法；申请号为CN201810839539的专利提出一种高准确性的光伏发电量预测模型及其构建方法和应用。在电能质量预测领域，申请号为201310122440.X的专利提出一种基于DBSCAN聚类和蒙特卡罗算法的风电电能质量趋势预测方法。申请号为201810644850.3的专利提出一种基于支持向量机的含分布式电源配电网电能质量预测方法，仅用支持向量机进行预测，在处理数据量大、模型复杂的问题上能力较差。申请号为201811561343.X的专利提出一种基于聚类和神经网络的含分布式电源配电网的电能质量预测方法，但其使用的K-means聚类方法随机确定初始簇中心点，会使得最终簇集分配不固定，且聚类结果的分布均匀情况也会对后续神经网络预测造成较大的影响，对训练数据集要求较高。

发明内容

本发明要克服现有技术的上述缺点，提供一种基于DBN-SVM的主动配电网电能质量预测方法，将深度信念网络作为模型的下层，对输入数据进行特征提取，将支持向量机作为模型的上层，通过已提取的特征对电能质量进行预测。

本发明在传统支持向量机(SVM)的基础上，加入深度置信网络(DBN)进行输入特征提取，首先对受限玻尔兹曼机(RBM)进行逐层无监督训练，再对由RBM组成的DBN进行有监督的整体权值微调，综合考虑对DG出力有影响的时间、光照强度、温度，以及对主动配电网电能质量有直接影响的负荷接入情况，将SVM作为顶层回归预测模型，并用网格法进行参数寻优，对主动配电网的稳态电能质量指标进行有效预测。

本发明为实现上述目的，提出了一种基于DBN-SVM，即深度信念网络(DBN)结合支持向量机(SVM)的主动配电网电能质量预测方法，如附图1所示，其过程包括如下步骤：

1、输入输出数据的预处理：为消除量纲不统一造成的数据处理过程中的精度损失，对DBN-SVM模型的输入输出数据进行归一化操作；

DBN-SVM模型的输入包含m个维度，共有n组数据，整个输入矩阵记为X，即

其中，x_nm为第n组第m维的输入数据，以此类推；

DBN-SVM模型的输出包含1个维度，共有n组数据，整个输出矩阵记为Y，即

其中，y_n为第n组的输出数据，以此类推；

将输入和输出数据分别按式(3)、(4)进行归一化操作：

其中，X_p、X_p′分别为归一化处理之前、之后的第p个输入变量数组，X_p.min和X_p.max分别为X_p中的最小值和最大值；Y、Y′分别为归一化处理之前、之后的输出指标数据，Y_min和Y_max分别为输出矩阵Y中元素的最小值和最大值；

2、对DBN模型的各层RBM进行预训练：DBN共有K层RBM模型，单层RBM网络由可见层和隐含层组成，用v＝{v₁,v₂,v₃,…v_I}表示可见层，h＝{h₁,h₂,…h_J}表示隐藏层，I为可见层节点个数，J为隐藏层节点个数；RBM中每个节点都是{0,1}二值的，节点值为1时表示当前节点处于打开状态，节点值为0时表示当前节点处于关闭状态；

步骤201，将步骤1归一化后的数据按照时间序列排序，划分n组数据中的最后24组数据作为测试集，余下n-24组数据中的70％作为训练集，另30％作为验证集；

步骤202，初始化单层RBM的参数：将训练样本作为第一层RBM的可见层输入，设定RBM训练周期epoch、学习速率τ、可见层节点个数I及隐藏层节点个数J，初始化偏置向量a＝{a₁,a₂,…,a_I}、b＝{b₁,b₂,…,b_J}和权值矩阵w：

步骤203，训练此层RBM网络：可见层节点v_i,i∈{1,2,…,I}和隐藏层节点h_j,j∈{1,2,…,J}的联合能量可用式(6)能量函数表示：

其中，θ＝{w_ij,a_i,b_j}，w_ij为节点v_i和节点h_j之间的连接权值，a_i为可见层节点v_i的偏置量，b_j为隐藏层节点h_j的偏置量；

可见层节点与隐藏层节点的联合概率分布如式(7)所示：

其中，Z(θ)为归一化因子，也称分配函数，如式(8)所示：

在RBM可见层节点v_i已知的前提下，隐藏层节点h_j各节点条件独立，可见层和隐含层间的联合概率分布可由式(9)得出：

由式(9)可求出隐藏层节点h_j取值为1的概率，其激活概率如式(10)所示：

其中，exp()为指数函数，∑_i()表示遍历所有i将括号中的项累加；

在RBM隐藏层节点h_j已知的前提下，可见层节点v_i各节点条件独立，可见层和隐含层间的联合概率分布可由式(11)得出：

由式(11)可求出可见层节点v_i取值为1的概率，其激活概率如式(12)所示：

根据式(7)求取P(v,h|θ)对隐藏层节点h的边缘分布，可见层节点v的激活概率可由式(13)得出：

RBM的参数值取激活概率P(v|θ)最大时的w_ij、a_i和h_j，求解P(v|θ)的最大值可转变为求解似然函数L(θ)的最大值，似然函数可化为式(14)形式：

RBM模型的最优参数θ^*由式(15)可得：

其中，arg()表示反函数；

RBM的权重更新可由式(16)对比散度算法求得：

其中，学习速率τ取值在0至1之间；<>_data为给定样本数据在可见层输入时的隐藏层期望输出，<>_recon为经对比散度算法估计特征重构后的期望输出；

步骤204，将上一层RBM的输出作为下一层RBM的输入，重复步骤202至步骤203，直到下一层RBM能量函数收敛，并求得下一层输出；

步骤205，重复步骤204，逐层训练RBM，直到全部K层RBM均训练完毕；

3、对DBN模型进行微调：目的是使DBN模型整体的重构误差最小；

步骤301，将归一化后训练集的输入数据，输入步骤2所完成预训练的DBN模型，得到输出的中间向量G；

步骤302，将输出G作为输入传给顶层SVM模型，输出电能质量预测结果数据H；

步骤303，将H与训练集的真实电能质量输出数据作比较，并将误差传回底层DBN网络中，微调整个DBN网络的参数，直到误差在设定范围内；

步骤304，在步骤303微调DBN网络参数仍无法达到误差在设定范围内情况下，但微调次数达到设定最大值，调整过程结束；

4、基于DBN对影响电能质量的环境指标进行特征提取：将归一化后的训练集和测试集输入数据，输入步骤3中得到的最优DBN模型，分别提取出训练集和测试集样本输入的特征矩阵；

5、基于顶层支持向量回归机进行电能质量稳态指标预测：

步骤501，将步骤4中提取出的训练集样本输入的特征矩阵，进行非线性映射至高维特征空间，并在此空间进行线性逼近，该逼近函数f(x′)形式可由式(17)表示：

f(x′)＝ω·Φ(x′)+d (17)

式中，“·”为内积运算符，ω是高维空间内可调的权值向量，x′为支持向量机的输入，其维数为n′，Φ(x′)是输入为x′的非线性映射，d为偏置项；

ω和d值通过最小化泛函公式(18)进行估计：

式中，Rreg[f]为正则化风险泛函，Remp[f]为经验风险，γ为规则化常数，||||表示欧式范数，t为遍历1至n′的变量，y′_t表示支持向量机的第t项输出；

式(18)等价于求解公式(19)所示的优化问题：

其约束条件为

式中，minT表示最小化目标函数T，

ξ_t为超平面上、下两个不同的松弛变量，c为正规化常数，其值越大表示数据拟合度越高；系数ε控制回归逼近误差管道的大小，决定了对训练样本的拟合精度，其值越大则支持向量越少，精度越低；

引入核函数方法，将式(19)、(20)转化成式(21)、(22)形式：

其约束条件为

式中，maxT表示最大化目标函数T，s定义为用于遍历集合[1,n′]的变量；l_s，

l_t为四个Lagrange乘子，即最小化Rreg[f]的解；x′_s表示下标为s的样本输入，Kernel表示核函数；

求解式(21)、(22)所示的二次规划，得到式(23)所示的非线性映射：

其中，Kernel(x′_t,x′_u)＝Φ(x′_t)·Φ(x′)是满足Mercer条件的核函数；选用RBF核函数，即径向基核函数，其表达式如式(24)所示：

Kernel(x′_t,x′_u)＝exp(-g||x′_t-x′_u||²),g>0 (24)

式中，参数g为gamma函数，即伽玛函数的参数设置，u＝1,2,···,n′；

步骤502，采用网格搜索法，使参数c和g在[0.001,1000]范围内以10倍为步长划分网格，并取定一组c和g的参数组合；

步骤503，遍历所有c和g划分的网格取值，按照步骤401所述回归过程构建基于支持向量机的PQ预测模型，对验证集的输出进行预测，选取使预测误差最小的一组对应的c、g参数，即为最优参数组合c_opt、g_opt；

步骤504，计算验证集的预测精度，若预测精度不能达到要求，则重新划分训练集与验证集，重复步骤501、步骤502、步骤503，得到最优划分方式下的支持向量机模型；

步骤505，将测试集输入到步骤504中得到的最优划分方式下的支持向量机模型，得到电能质量指标预测结果；

6、将预测结果反归一化，并进行误差分析：

步骤601，将步骤505中的预测结果按式(25)进行反归一化处理：

Y_pre＝Y_pre′×(Y_max-Y_min)+Y_min (25)

其中，Y_pre和Y_pre′分别为反归一化处理之后、之前的电能质量预测模型输出数据，Y_max和Y_min分别为输出矩阵Y中元素的最大值和最小值；

步骤602，将测试集的输出记为实际输出Y_real，按式(26)计算预测结果的相对误差指标RE：

步骤603，按式(27)计算预测结果的均方根误差指标RMAE：

其中，N_pre为Y_pre数据集中元素的个数。

本发明的有益效果主要表现在：1、利用DBN-SVM模型对含DG配电网电能质量进行了效果良好的预测，并能在传统SVM的基础上增加误差率落在低值区间的概率，提高预测精度；2、通过无监督的逐层训练和有监督的整体权值微调，得到完整的DBN底层结构，为顶层SVM提供特征矩阵；3、顶层SVM经网格法参数寻优后对电能质量实现有效预测。

附图说明

图1为本发明方法的总体框图。

图2为本发明的13节点10.5kV含DG主动配电网拓扑结构。

图3为本发明的SVM与DBN-SVM模型电压偏差预测结果对比。

图4为本发明的SVM与DBN-SVM模型电压偏差预测相对误差对比。

具体实施方式

下面结合实施例及附图对本发明作进一步的详细说明，但本发明的实施方式不限于此。实施例中含DG主动配电网电能质量预测方法的总体框图如附图1所示，包括以下步骤：

1、输入输出数据的预处理：为消除量纲不统一造成的数据处理过程中的精度损失，对DBN-SVM模型的输入输出数据进行归一化操作；

实施例中，建立如附图2所示的13节点10.5kV含DG主动配电网，取时间、光照强度、温度、负荷大小作为网络的输入，其中，负荷大小此处分为两个输入，一个为待预测的DG接入节点的负荷大小，另一个为其他节点总负荷，即总共包含5个维度，共有504组数据，整个输入矩阵记为X，如式(1)所示；

将电能质量指标中具有代表性的电压偏差作为待预测指标，即网络的输出，包含1个维度，共有504组数据，整个输出矩阵记为Y，如式(2)所示；

将输入和输出数据分别按式(3)、(4)进行归一化操作；

2、对DBN模型的各层RBM进行预训练：算例设置DBN共有K＝2层RBM模型，单层RBM网络由可见层和隐含层组成，用v＝{v₁,v₂,v₃,…v_I}表示可见层，h＝{h₁,h₂,…h_J}表示隐藏层，可见层节点个数I为5，隐藏层节点个数J为200，RBM中每个节点都是{0,1}二值的，节点值为1时表示当前节点处于打开状态，节点值为0时表示当前节点处于关闭状态；

步骤201，将步骤1归一化后的数据按照时间序列排序，划分最后24组数据作为测试集，余下480组数据中的70％作为训练集，共336组，另30％作为验证集，共144组；

步骤202，初始化单层RBM的参数：将训练样本作为第一层RBM的可见层输入，设定RBM训练周期epoch为500、学习速率τ为0.00001、可见层节点个数I为5、隐藏层节点个数J为200，初始化偏置向量a＝{a₁,a₂,…,a₅}、b＝{b₁,b₂,…,b₂₀₀}和式(5)所示的权值矩阵w；

步骤203，训练此层RBM网络：可见层节点v_i,i∈{1,2,…,5}和隐藏层节点h_j,j∈{1,2,…,200}的联合能量可用式(6)所示的能量函数来表示；

可见层节点与隐藏层节点的联合概率分布用式(7)进行计算，其中，归一化因子Z(θ)如式(8)所示；

若已知可见层节点v_i，则隐藏层节点h_j的联合概率分布可由式(9)得出，计算隐藏层节点h_j取1的概率，即激活概率如式(10)所示；

若知h_j，则v_i各节点条件独立，联合概率分布可由式(11)得出；

由式(11)可求出可见层节点v_i取1的概率，即激活概率如式(12)所示；

根据式(7)求P(v,h|θ)对隐藏层节点h的边缘分布，得到可见层节点v的激活概率如式(13)所示；

RBM的参数值取激活概率P(v|θ)最大时的w_ij、a_i和h_j，求解P(v|θ)的最大值可转变为求解似然函数L(θ)的最大值，似然函数可化为式(14)形式；

RBM模型的最优参数θ^*由式(15)可得；

RBM的权重更新可由式(16)对比散度算法求得；

步骤204，将上一层RBM的输出作为下一层RBM的输入，重复步骤202至步骤203，直到下一层RBM能量函数收敛，并求得下一层输出；

步骤205，重复步骤204，逐层训练RBM，直到全部K＝2层RBM都训练完毕；

3、对DBN模型进行微调：使DBN模型整体的重构误差最小；

步骤301，将归一化后训练集的输入数据，输入步骤2所完成预训练的DBN模型，得到输出的中间向量G；

步骤302，将输出G作为输入传给顶层SVM模型，输出电能质量预测结果数据H；

步骤303，将H与训练集的真实电能质量输出数据作比较，并将误差传回底层DBN网络中，微调整个DBN网络的参数，直到误差在设定范围内；

步骤304，在步骤303微调DBN网络参数仍无法达到误差在设定范围内情况下，但微调次数达到设定最大值，调整过程结束；

4、基于DBN对影响电能质量的环境指标进行特征提取：将归一化后的训练集和测试集输入数据，输入步骤3中得到的最优DBN模型，分别提取出训练集和测试集样本输入的特征矩阵；

5、基于顶层支持向量回归机进行电能质量稳态指标预测：

步骤501，将步骤4中提取出的训练集样本输入的特征矩阵，进行非线性映射至高维特征空间，并在此空间进行线性逼近，该逼近函数f(x′)形式可由式(17)表示；其中ω和d通过最小化泛函公式(18)进行估计，式(18)等价于求解式(19)的优化问题，其约束条件如式(20)所示；

引入核函数方法将式(19)、式(20)转化成式(21)、(22)形式，其约束条件如式(22)所示，求解式(21)、(22)所示的二次规划，表示为式(23)的形式，其中，Kernel(x′_t,x′_u)＝Φ(x′_t)·Φ(x′)选用RBF核函数，即径向基核函数，其表达式如式(24)所示；

由于在计算f(x′)时，无需计算ω和Φ(x′)的数值，只需计算Lagrange乘子

l_t以及核函数Kernel(x′_t,x′_k)，即能解决维数灾难问题；建立SVM回归模型所需的参数优选，关键是选择参数c和g；

步骤502，采用网格搜索法，使参数c和g在[0.001,1000]范围内以10倍为步长划分网格，并取定一组c和g的参数组合；

步骤503，遍历所有c和g划分的网格取值，按照步骤401所述回归过程构建基于支持向量机的PQ预测模型，对验证集的输出进行预测，选取使预测误差最小的一组对应的c、g参数，即为最优参数组合c_opt、g_opt；

步骤504，计算验证集的预测精度，若预测精度不能达到要求，则重新划分训练集与验证集，重复步骤501、步骤502、步骤503，得到最优划分方式下的支持向量机模型；

步骤505，将测试集输入到步骤504中得到的最优划分方式下的支持向量机模型，得到电能质量指标预测结果；

6、将预测结果反归一化，并进行误差分析

步骤601，将步骤505中的预测结果按式(25)进行反归一化；

步骤602，将测试集的输出记为实际输出Y_real，按式(26)计算预测结果的相对误差指标RE；

实施例中，各时间点电压偏差预测值及误差的计算结果如表1所示：

表1 DBN-SVM模型的电压偏差预测值与误差

步骤603，按式(27)计算预测结果的均方根误差指标RMAE，计算结果为0.00068898；

实施例中，将DBN-SVM与普通SVM预测结果进行了比较，测试集的24小时电压偏差预测结果及相对误差如附图3、附图4所示；SVM与DBN-SVM模型电压偏差预测误差在不同范围内的频数对比如表2所示；

表2 SVM与DBN-SVM电压偏差预测误差在不同范围内的频数对比

实施例分析显示，DBN-SVM预测模型在相对误差[0,1)范围内的频数明显多于SVM预测模型，说明DBN-SVM预测模型能对含DG主动配电网电能质量进行效果良好的预测，并能在传统SVM预测模型的基础上增加误差率落在低值区间的概率，提高预测精度。

本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举，本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式，本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。

Claims (1)

1.一种基于DBN-SVM的主动配电网电能质量预测方法，包括如下步骤：

步骤1、输入输出数据的预处理：为消除量纲不统一造成的数据处理过程中的精度损失，对DBN-SVM模型的输入输出数据进行归一化操作；

DBN-SVM模型的输入包含m个维度，共有n组数据，整个输入矩阵记为X，即

其中，x_nm为第n组第m维的输入数据，以此类推；

DBN-SVM模型的输出包含1个维度，共有n组数据，整个输出矩阵记为Y，即

其中，y_n为第n组的输出数据，以此类推；

将输入和输出数据分别按式(3)、(4)进行归一化操作：

其中，X_p、X_p′分别为归一化处理之前、之后的第p个输入变量数组，X_p.min和X_p.max分别为X_p中的最小值和最大值；Y、Y′分别为归一化处理之前、之后的输出指标数据，Y_min和Y_max分别为输出矩阵Y中元素的最小值和最大值；

步骤2、对DBN模型的各层RBM进行预训练：DBN共有K层RBM模型，单层RBM网络由可见层和隐含层组成，用v＝{v₁，v₂，v₃，...v_I}表示可见层，h＝{h₁，h₂，...h_J}表示隐藏层，I为可见层节点个数，J为隐藏层节点个数；RBM中每个节点都是{0，1}二值的，节点值为1时表示当前节点处于打开状态，节点值为0时表示当前节点处于关闭状态；

步骤201，将步骤1归一化后的数据按照时间序列排序，划分n组数据中的最后24组数据作为测试集，余下n-24组数据中的70％作为训练集，另30％作为验证集；

步骤202，初始化单层RBM的参数：将训练样本作为第一层RBM的可见层输入，设定RBM训练周期epoch、学习速率τ、可见层节点个数I及隐藏层节点个数J，初始化偏置向量a＝{a₁，a₂，...，a_I}、b＝{b₁，b₂，...，b_J}和权值矩阵w：

步骤203，训练此层RBM网络：可见层节点v_i，i∈{1，2，...，I}和隐藏层节点h_j，j∈{1，2，...，J}的联合能量可用式(6)能量函数表示：

其中，θ＝{w_ij，a_i，b_j}，w_ij为节点v_i和节点h_j之间的连接权值，a_i为可见层节点v_i的偏置量，b_j为隐藏层节点h_j的偏置量；

可见层节点与隐藏层节点的联合概率分布如式(7)所示：

其中，Z(θ)为归一化因子，也称分配函数，如式(8)所示：

在RBM可见层节点v_i已知的前提下，隐藏层节点h_j各节点条件独立，可见层和隐含层间的联合概率分布可由式(9)得出：

由式(9)可求出隐藏层节点h_j取值为1的概率，其激活概率如式(10)所示：

其中，exp()为指数函数，∑_i()表示遍历所有i将括号中的项累加；

在RBM隐藏层节点h_j已知的前提下，可见层节点v_i各节点条件独立，可见层和隐含层间的联合概率分布可由式(11)得出：

由式(11)可求出可见层节点v_i取值为1的概率，其激活概率如式(12)所示：

根据式(7)求取P(v，h|θ)对隐藏层节点h的边缘分布，可见层节点v的激活概率可由式(13)得出：

RBM的参数值取激活概率P(v|θ)最大时的w_ij、a_i和h_j，求解P(v|θ)的最大值可转变为求解似然函数L(θ)的最大值，似然函数可化为式(14)形式：

RBM模型的最优参数θ^*由式(15)可得：

其中，arg()表示反函数；

RBM的权重更新可由式(16)对比散度算法求得：

其中，学习速率τ取值在0至1之间；<>_data为给定样本数据在可见层输入时的隐藏层期望输出，<>_recon为经对比散度算法估计特征重构后的期望输出；

步骤204，将上一层RBM的输出作为下一层RBM的输入，重复步骤202至步骤203，直到下一层RBM能量函数收敛，并求得下一层输出；

步骤205，重复步骤204，逐层训练RBM，直到全部K层RBM均训练完毕；

步骤3、对DBN模型进行微调：目的是使DBN模型整体的重构误差最小；

步骤301，将归一化后训练集的输入数据，输入步骤2所完成预训练的DBN模型，得到输出的中间向量G；

步骤302，将输出G作为输入传给顶层SVM模型，输出电能质量预测结果数据H；

步骤303，将H与训练集的真实电能质量输出数据作比较，并将误差传回底层DBN网络中，微调整个DBN网络的参数，直到误差在设定范围内；

步骤304，在步骤303微调DBN网络参数仍无法达到误差在设定范围内情况下，但微调次数达到设定最大值，调整过程结束；

步骤4、基于DBN对影响电能质量的环境指标进行特征提取：将归一化后的训练集和测试集输入数据，输入步骤3中得到的最优DBN模型，分别提取出训练集和测试集样本输入的特征矩阵；

步骤5、基于顶层支持向量回归机进行电能质量稳态指标预测：

步骤501，将步骤4中提取出的训练集样本输入的特征矩阵，进行非线性映射至高维特征空间，并在此空间进行线性逼近，该逼近函数f(x′)形式可由式(17)表示：

f(x′)＝ω·Φ(x′)+d (17)

式中，“·”为内积运算符，ω是高维空间内可调的权值向量，x′为支持向量机的输入，其维数为n′，Φ(x′)是输入为x′的非线性映射，d为偏置项；

ω和d值通过最小化泛函公式(18)进行估计：

式中，Rreg[f]为正则化风险泛函，Remp[f]为经验风险，γ为规则化常数，|| ||表示欧式范数，t为遍历1至n′的变量，y′_t表示支持向量机的第t项输出；

式(18)等价于求解公式(19)所示的优化问题：

其约束条件为

式中，minT表示最小化目标函数T，ξ_t ^*，ξ_t为超平面上、下两个不同的松弛变量，c为正规化常数，其值越大表示数据拟合度越高；系数ε控制回归逼近误差管道的大小，决定了对训练样本的拟合精度，其值越大则支持向量越少，精度越低；

引入核函数方法，将式(19)、(20)转化成式(21)、(22)形式：

其约束条件为

式中，maxT表示最大化目标函数T，s定义为用于遍历集合[1，n′]的变量；

l_s，

l_t为四个Lagrange乘子，即最小化Rreg[f]的解；x′_s表示下标为s的样本输入，Kernel表示核函数；

求解式(21)、(22)所示的二次规划，得到式(23)所示的非线性映射：

其中，Kernel(x′_t，x′_u)＝Φ(x′_t)·Φ(x′)是满足Mercer条件的核函数；选用RBF核函数，即径向基核函数，其表达式如式(24)所示：

Kernel(x′_t，x′_u)＝exp(-g||x′_t-x′_u||²)，g＞0 (24)

式中，参数g为gamma函数，即伽玛函数的参数设置，u＝1，2，…，n′；

步骤502，采用网格搜索法，使参数c和g在[0.001，1000]范围内以10倍为步长划分网格，并取定一组c和g的参数组合；

步骤503，遍历所有c和g划分的网格取值，按照步骤401所述回归过程构建基于支持向量机的PQ预测模型，对验证集的输出进行预测，选取使预测误差最小的一组对应的c、g参数，即为最优参数组合c_opt、g_opt；

步骤504，计算验证集的预测精度，若预测精度不能达到要求，则重新划分训练集与验证集，重复步骤501、步骤502、步骤503，得到最优划分方式下的支持向量机模型；

步骤505，将测试集输入到步骤504中得到的最优划分方式下的支持向量机模型，得到电能质量指标预测结果；

步骤6、将预测结果反归一化，并进行误差分析：

步骤601，将步骤505中的预测结果按式(25)进行反归一化处理：

Y_pre＝Y_pre′×(Y_max-Y_min)+Y_min (25)

其中，Y_pre和Y_pre′分别为反归一化处理之后、之前的电能质量预测模型输出数据，Y_max和Y_min分别为输出矩阵Y中元素的最大值和最小值；

步骤602，将测试集的输出记为实际输出Y_real，按式(26)计算预测结果的相对误差指标RE：

步骤603，按式(27)计算预测结果的均方根误差指标RMAE：

其中，N_pre为Y_pre数据集中元素的个数。

Images