CN110516867B - 一种基于主成分分析的集成学习负荷预测方法 - Google Patents

Abstract

本发明涉及一种基于主成分分析的集成学习负荷预测方法，属于电力系统需求侧响应领域。本发明的集成学习负荷预测将N个不同预测模型的输出结果通过算法分配权重，最后再组合到一起，通过基于主成分分析的集成学习将各预测模型的比例分配优化问题降维后再作线性回归得到各个模型的权重。该方法能够集成各种预测方案的优点，提高负荷预测的整体准确度。

Description

一种基于主成分分析的集成学习负荷预测方法

技术领域

本发明涉及一种基于主成分分析的集成学习负荷预测方法，属于电力系统需求侧响应领域。

背景技术

负荷预测是根据历史的运行特性、增容决策、自然条件与社会影响等诸多因数，在满足一定精度要求的条件下，确定未来某特定时刻的负荷数据，其中负荷是指电力功率或用电量。电力负荷预测是电力部门的重要工作之一，准确的负荷预测，可以经济合理地安排电网内部发电机组的启停，保持电网运行的安全稳定性，减少不必要的旋转储备容量，合理安排机组检修计划，保障社会的正常生产和生活，有效地降低发电成本，提高经济效益和社会效益。在开放的电力市场环境下，售电公司对于用户的负荷预测同样变得重要，可以准确预知用户情况，以更好的在现货市场中竞价获取利润，或像用户推送针对性的增值服务。用户对于自身负荷的准确预测，有利于安排生产，提高能源管理水平。

负荷预测的核心问题是预测的技术方法，或者说是预测数学模型。由于负荷预测是根据电力负荷的过去和现在推测它的未来数值，所以负荷预测所研究的对象是随机事件，各种预测方法和模型都具有一定的不准确性。如果能够集成各种预测方案的优点，就能提高负荷预测的整体准确度。因此，需要提出一种集成型的负荷预测方法，提高整体的负荷预测精度。

发明内容

本发明的目的是提出一种基于主成分分析的集成学习负荷预测方法。集成学习负荷预测实际上就是把N个不同预测模型的输出结果通过算法分配权重，最后再组合到一起，所谓基于主成分分析(PCA)的集成学习预测方法就是通过PCA降维后再作线性回归得到各个模型的权重。

本发明提出的基于主成分分析的集成学习负荷预测方法，包括以下步骤：

S1：确认预测优化问题：

记来自第i个模型的预测输出是y_i，此处y_i是一个长度为T的一维向量，T是预测的时间范围长度，向量中的第t个元素

即为在时刻t的模型预测的负荷值，再记在相同时间尺度下的真实负荷为y，显然y也是一个长度为T的一维向量，向量中的第t个元素y^(t)即为在时刻t的真实负荷值，需要找到N个系数ω_i，其中i＝1,2,…,N，使得由这些系数ω_i与y_i的进行加权得到集成学习模型的预测值

即：

使得：

其中，上式是向量

和y之间的欧氏距离；

如何获得这些系数呢？可以通过直接求解以上优化问题得到答案，但是当需要集成的方法数量N过大时，会造成计算代价巨大，仔细分析其实不难发现，由于现在的预测模型精度都比较高，不会存在偏差特别大的情况，因此它们的预测结果通常呈现强烈的线性相关性，即现在有N个向量，但它们大概率张不成一个N维空间，这时候需要通过PCA主成分分析的方法来对模型输出集进行降维，然后再利用降维后得到的向量去解优化问题，所述进行如下步骤；

S2：求取优化系数：

通过主成分分析的方法来对模型输出集进行降维，然后再利用降维后得到的向量去解优化问题；

将N个预测模型的预测输出作为行排列成矩阵形式，就得到了矩阵A：

A＝[y₁ y₂ ... y_N]^T

A是一个N×T的矩阵，首先对于A的每一行，计算其均值，得到长度为N的均值向量μ，其中μ_i是第i行的均值，根据均值向量将A零均值化，得到行均值为0的A矩阵，具体如下：

A_ij＝A_ij-μ_i i＝1,2...,N；j＝1,2,...,T

计算零均值化后的矩阵A的相关系数矩阵C：

主成分分析的目的在于，找到一个矩阵P，使得原矩阵对P做基变换后，得到的新矩阵：

B＝PA

B的协方差矩阵D为对角矩阵，即B的各行之间相关性趋于0；

由于：

此时目标在于找到矩阵P，使得PCP^T是一个对角矩阵，且对角元从大到小自上而下排列，其中，P的前k行即为需要寻找的基，用P的前k行×A即得到从N维降至k维后的矩阵；

由于C矩阵是N维实对称矩阵，因此必有N个互相正交的单位特征向量，设这N个特征向量为e₁,e₂,...,e_N，对应的特征值为λ₁,λ₂,...,λ_N，将特征向量按照特征值的大小顺序按列组成矩阵E，则对C有如下结论：

E^T＝P，取出E^T中的前k行构成矩阵Q，其中k可以通过如下不等式确定：

则QA得到的k×T维矩阵就是降维后的矩阵X，X中的每一行记为

现在集成学习问题即转化为，寻找k个系数ω₁,ω₂,...,ω_k；

使得它们与真实负荷向量y之间满足：

确定ω₁,ω₂,...,ω_k的目标是使得||ε||最小，即：

minf(ω)＝(y^T-X^Tω)^T(y^T-X^Tω)

其中，ω＝[ω₁,ω₂,...,ω_k]^T；

令

即解得最小值，求解上式得到：

ω＝(XX^T)^-1Xy

求得ω＝[ω₁,ω₂,...,ω_k]^T后，最终的集成学习负荷预测结果即为：

其中X是原有的N个预测模型得到的负荷预测序列降维后的矩阵，

为X中的第i行。

本发明的有益效果是：

本发明的集成学习负荷预测将N个不同预测模型的输出结果通过算法分配权重，最后再组合到一起，通过基于主成分分析的集成学习将各预测模型的比例分配优化问题降维后再作线性回归得到各个模型的权重。该方法能够集成各种预测方案的优点，提高负荷预测的整体准确度。

具体实施方式

实施例1：

本发明提出的基于主成分分析的集成学习负荷预测方法，包括以下步骤：

S1：确认预测优化问题：

记来自第i个模型的预测输出是y_i，此处y_i是一个长度为T的一维向量，T是预测的时间范围长度，向量中的第t个元素

即为在时刻t的模型预测的负荷值，再记在相同时间尺度下的真实负荷为y，显然y也是一个长度为T的一维向量，向量中的第t个元素y^(t)即为在时刻t的真实负荷值，需要找到N个系数ω_i，其中i＝1,2,…,N，使得由这些系数ω_i与y_i的进行加权得到集成学习模型的预测值

尽可能接近真实值y，即：

使得：

其中，上式是向量

和y之间的欧氏距离；

如何获得这些系数呢？可以通过直接求解以上优化问题得到答案，但是当需要集成的方法数量N过大时，会造成计算代价巨大，仔细分析其实不难发现，由于现在的预测模型精度都比较高，不会存在偏差特别大的情况，因此它们的预测结果通常呈现强烈的线性相关性，即现在有N个向量，但它们大概率张不成一个N维空间，这时候需要通过PCA主成分分析的方法来对模型输出集进行降维，然后再利用降维后得到的向量去解优化问题，所述进行如下步骤；

S2：求取优化系数：

通过主成分分析的方法来对模型输出集进行降维，然后再利用降维后得到的向量去解优化问题；

将N个预测模型的预测输出作为行排列成矩阵形式，就得到了矩阵A：

A＝[y₁ y₂ ... y_N]^T

A是一个N×T的矩阵，首先对于A的每一行，计算其均值，得到长度为N的均值向量μ，其中μ_i是第i行的均值，根据均值向量将A零均值化，得到行均值为0的A矩阵，具体如下：

A_ij＝A_ij-μ_i i＝1,2...,N；j＝1,2,...,T

计算零均值化后的矩阵A的相关系数矩阵C：

主成分分析的目的在于，找到一个矩阵P，使得原矩阵对P做基变换后，得到的新矩阵：

B＝PA

B的协方差矩阵D为对角矩阵，这意味着B的各行之间相关性趋于0；

由于：

此时目标在于找到矩阵P，使得PCP^T是一个对角矩阵，且对角元从大到小自上而下排列，其中，P的前k行即为需要寻找的基，用P的前k行×A即得到从N维降至k维后的矩阵；

由于C矩阵是N维实对称矩阵，因此必有N个互相正交的单位特征向量，设这N个特征向量为e₁,e₂,...,e_N，对应的特征值为λ₁,λ₂,...,λ_N，将特征向量按照特征值的大小顺序按列组成矩阵E，则对C有如下结论：

实际上E^T就是寻找的矩阵P，即E^T＝P，取出E^T中的前k行构成矩阵Q，其中k可以通过如下不等式确定：

则QA得到的k×T维矩阵就是降维后的矩阵X，X中的每一行记为

现在集成学习问题即转化为，寻找k个系数ω₁,ω₂,...,ω_k；

使得它们与真实负荷向量y之间满足：

确定ω₁,ω₂,...,ω_k的目标是使得||ε||最小，即：

minf(ω)＝(y^T-X^Tω)^T(y^T-X^Tω)

其中，ω＝[ω₁,ω₂,...,ω_k]^T；

令

即解得最小值，求解上式得到：

ω＝(XX^T)^-1Xy

求得ω＝[ω₁,ω₂,...,ω_k]^T后，最终的集成学习负荷预测结果即为：

其中X是原有的N个预测模型得到的负荷预测序列降维后的矩阵，

为X中的第i行。

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (1)

1.一种基于主成分分析的集成学习负荷预测方法，其特征在于，包括以下步骤：

S1：确认预测优化问题：

记来自第i个模型的预测输出是y_i，此处y_i是一个长度为T的一维向量，T是预测的时间范围长度，向量中的第t个元素

即为在时刻t的模型预测的负荷值，再记在相同时间尺度下的真实负荷为y，y是一个长度为T的一维向量，向量中的第t个元素y^(t)即为在时刻t的真实负荷值，需要找到N个系数ω_i，其中i＝1,2,…,N，使得由系数ω_i与y_i进行加权得到集成学习模型的预测值

即：

使得：

其中，上式是向量

和y之间的欧氏距离；

S2：求取优化系数：

通过主成分分析的方法来对模型输出集进行降维，然后再利用降维后得到的向量去解优化问题；

将N个预测模型的预测输出作为行排列成矩阵形式，就得到了矩阵A：

A＝[y₁ y₂ ... y_N]^T

A是一个N×T的矩阵，首先对于A的每一行，计算其均值，得到长度为N的均值向量μ，其中μ_i是第i行的均值，根据均值向量将A零均值化，得到行均值为0的A矩阵，具体如下：

A_ij＝A_ij-μ_i i＝1,2...,N；j＝1,2,...,T

计算零均值化后的矩阵A的相关系数矩阵C：

主成分分析的目的在于，找到一个矩阵P，使得原矩阵对P做基变换后，得到的新矩阵：

B＝PA

B的协方差矩阵D为对角矩阵，即B的各行之间相关性趋于0；

由于：

此时目标在于找到矩阵P，使得PCP^T是一个对角矩阵，且对角元从大到小自上而下排列，其中，P的前k行即为需要寻找的基，用P的前k行×A即得到从N维降至k维后的矩阵；

由于C矩阵是N维实对称矩阵，因此必有N个互相正交的单位特征向量，设这N个特征向量为e₁,e₂,...,e_N，对应的特征值为λ₁,λ₂,...,λ_N，将特征向量按照特征值的大小顺序按列组成矩阵E，则对C有如下结论：

E^T＝P，取出E^T中的前k行构成矩阵Q，其中k可以通过如下不等式确定：

则QA得到的k×T维矩阵就是降维后的矩阵X，X中的每一行记为

现在集成学习问题即转化为，寻找k个系数ω₁,ω₂,...,ω_k；

使得它们与真实负荷向量y之间满足：

确定ω₁,ω₂,...,ω_k的目标是使得||ε||最小，即：

min f(ω)＝(y^T-X^Tω)^T(y^T-X^Tω)

其中，ω＝[ω₁,ω₂,...,ω_k]^T；

令

即解得最小值，求解上式得到：

ω＝(XX^T)^-1Xy

求得ω＝[ω₁,ω₂,...,ω_k]^T后，最终的集成学习负荷预测结果即为：

其中X是原有的N个预测模型得到的负荷预测序列降维后的矩阵，

为X中的第i行。