基于VMD-EWT-IASSP-EBILSTM的短期电力负荷预测

杨健,孙涛,陈小龙,苏坚,姚健,周倩

(国网宁夏供电有限公司吴忠供电公司,吴忠 751100)

近年来,国家大力建设电力市场,深化电力系统改革,但随着电力系统消纳的动态运转,电力系统的供给侧不断发生变化,系统负荷充满随机不确定性与非平稳性,对后续电力系统调度计划的应用与能源系统的安全稳定运行带来巨大影响[1]。因此,通过对电力系统负荷进行预测,获得电力系统负荷波动的区间范围,对电力市场合理优化配置资源具有重要指导意义。

国内外研究者对负荷预测领域的研究主要集中在点预测技术上,点预测方法主要采用指数平滑模型[2]、回归[3]与时间序列等统计方法。随着人工智能的发展,负荷预测开始应用一些人工智能的技术如神经网络[4-5]、支持向量机[6]和模糊系统[7]等。然而,由于电力市场负荷的波动性,其预测精度并不理想。

Gaillard等[8]分别采用半参数回归模型、多元时间序列仿真模型和重采样策略进行点负荷预测,但预测性能不佳;Kou等[9]提出了一种基于高斯过程的日负荷预测扩散异方差预测方法,但直接采用历史的预测误差估计扩散异方差的精度不高; Wang等[10]采用卷积神经网络模型来估算风电负荷,相较于Delta方法,负荷预测复杂度较低,精度较高,但该模型不能有效提取负荷时序信息;秦勉等[11]采用遗传算法与极限学习机(extreme learning machine,ELM)模型结合,构建负荷预测模型,采用遗传算法来优化ELM的参数,但遗传算法较为复杂,迭代求解过程速率较慢;李守茂等[12]基于小波神经网络与粒子优化算法进行负荷预测,但采用的粒子群优化算法计算量大,容易出现维数灾问题。Musaed等[13]采用卷积神经网络与长短时记忆网络 (convolutional neural networks-long short term memory,CNN-LSTM)结合的模型结构,用CNN提取输入样本的特征信息,再利用LSTM进行电力系统负荷预测,但该方法LSTM负荷预测的精度受CNN提取特征的约束,若CNN特征层提取不佳,会导致预测精度下降。任成国等[14]提出一种经验模态分解(empirical mode decomposition,EMD)与LSTM网络模型结合的算法,将时间序列分解若干子分量,在子分量基础上分别训练LSTM模型训练,预测精度有较高的提升,但EMD算法容易造成模态混叠的现象。

综上所述,现有算法存在着预测精度、时效、稳定度等不同问题,难以稳定工程化应用。为了有效提高模型的预测精度与时效性,提出一种短期电力负荷预测模型。考虑到变分模态分解 (variational mode decomposition,VMD)方法和经验小波变换(empirical wavelet transform,EWT)方法对非线性信号具有良好的分解特性,采用VMD方法对原始的电力负荷序列进行分解,并采用EWT方法对残差序列进一步分解,利用过零率指标划分高低频负荷序列。为了对分解的高低频负荷序列进一步预测,结合通道注意力的思想改进ASSP网络结构,优化卷积核提取感受野的方式,增强高频序列负荷特征提取能力;同时构造时序依赖捕获模块EBiLSTM结构,充分捕获低频序列负荷特征的长期依赖性,共同构建出一种高低频双流的神经网络短期负荷预测模型。最后将每个子序列的预测结果组合,得到最终的预测结果。

1 负荷神经网络模型预测架构

1.1 变分模态分解与经验小波分解方法

电力负荷数据变化具有一定的规律性,同时受季节、地理位置、日期的影响,存在着负荷量急剧增加或减少等非平稳现象,若直接用原始数据进行神经网络训练,误差较大[15]。为提高后续模型的训练精度,负荷预测前需对负荷序列进行模态特征的分解,而现在常用的EMD手段容易引发模态混叠的问题,进而影响后续的预测精度。VMD[16]能够解决负荷序列模态混叠的问题,但经过VMD分解的残差序列,负荷变化特征仍比较复杂,并不能有效利用。

EWT是一种自适应信号分解方法。根据原始信号傅里叶谱的分割,建立合适的小波滤波器组,将原始信号分解为紧凑支持傅里叶谱的多个子信号,分解的信号具有完整性与自适应性,其完整性体现于分解后的子序列信号与残差信号累加后可还原原始信号。因此,结合VMD与EWT方法的分解特性,利用VMD将原始的负荷序列分解为若干子序列和残差序列,解决信号模态混叠问题,再利用EWT方法对残差序列进行进一步分解,降低负荷序列的复杂度。

VMD可以将一个复杂信号在频域内分解为一系列具有特定带宽的子信号,从而挖掘复杂非线性信号的特征。假设VMD方法分解过程中各模态分量的频率集中在中心频率wk附近,利用VMD序列分解问题可转化为优化问题,优化的目的是寻找模态分解数K,使分解模态序列的总带宽最小,且满足所有分解序列求和得到原始信号f(t)的条件,优化问题数学建模,表达式为

(1)

式(1)中:f(t)为原始负荷信号;δ(t)为狄拉克分布函数;t表示时间;uk与wk为第k次分解的模态分量与对应的中心频率;K为模态分解数量;j为虚数单位。将式(1)引入二次惩罚和拉格朗日乘子,上述约束变分问题可转化为无约束优化问题,即

(2)

利用经验小波变换(EWT)对残差序列进行进一步分解的主要步骤如下。

(1)将残差序列的傅里叶谱分成N个连续段。

(2)基于经验小波构造带通滤波器,每段的经验尺度函数φn(w)与小波函数ψn(w)定义为

(3)

(4)

式中:ζ为平移量,函数β(x)定义为

(5)

(3)计算近似系数Wf(0,t)和细节系数Wf(n,t),近似系数由原始信号与经验尺度函数内积得出,细节系数由原始信号与小波函数内积得出,定义为

(6)

(7)

(4)计算子信号(经验模态函数),第一个子信号f1(t)与第n个子信号fn(t)定义为

f1(t)=Wf(0,t)φ1(t)

(8)

fn(t)=Wf(n,t)ψn(t)

(9)

1.2 低频模态分量特征捕获EBiLSTM结构

电力负荷数据受辐照度、温度、湿度等一些外部因素的影响,虽具有一定的波动性,但用户消费习惯仍具有一定的规律性,因此,在一段时间序列内,负荷特征数据也具有一定的周期规律性。这种周期规律性相对比较平缓,多反映在负荷的低频模态信号中。因此,提出一种时序依赖捕获模块EBiLSTM结构,考虑上下文的序列信息,提取低频模态分量的特征信息。

EBiLSTM结构接收原始负荷信号,通过集成双向的输入门、忘记门与输出门等长短时门结构与记忆结构,不断学习负荷数据的短时、中长时、长时等多维度负荷时序信息,同时考虑模型训练中的过拟合问题,设计Dropout层与BatchNormal层,合理地减少网络的过拟合问题,提高了模型的鲁棒性,具体的EBiLSTM结构如图1所示。

图1 时序特征信息提取链路

1.3 高频模态分量特征提取IASSP结构

电力负荷数据经过VMD与EWT分解的高频序列,局部范围内负荷特征变化较为剧烈,具有一定的波动性,需构建高效的特征提取模块来提取局部的特征信息。采用不同尺度的卷积核结构,改进ASSP网络结构的特征提取模块,称为IASSP(improved atros spatial pyramid pooling)模块,具体的模块结构如图2所示。首先采用1×1卷积结构降维,减少计算量,再采用1×1结构、3×3结构与连续两次3×3卷积操作进行网络的并行处理,空洞卷积的扩张率设计为1、3、5结构,采用不同卷积核多尺度提取的特征结构。

图2 IASSP特征提取结构

为进一步提高有效特征的权重比例,借鉴SENet模型的通道注意力机制,为IASPP模块的每个通道添加相应的权重值,学习并筛选出对目标预测贡献较大的特征图。原ASSP网络模型,默认同等对待每个通道信息,对负荷预测贡献相同。实际上,随着卷积层的堆叠与语义信息的丰富,每个通道携带了不同的特征信息,与目标的关联程度也不尽相同。若对特征图的通道赋予权重,并学习与筛选出对负荷预测贡献较大的特征,让网络更加关注输入的重要特征,更好地判断输入到输出的映射关系,进一步提高模型的预测精度和泛化能力。

IASSP模块构建完毕,模块内设计卷积结构,后接全局池化结构来降低特征数据的维度,减少模型的参数量,避免模型的过拟合现象。激活函数采用SiLU函数,该函数结合Sigmoid函数与Relu激活函数的平滑可微的优势,进行非线性映射,增强模型对复杂结构的学习能力,具体数学表达式为

f(x)=xsigmoid(x)

(10)

为提高负荷特征提取能力并加快特征梯度整体的传输效率,网络模型的设计过程中借鉴DenseNet网络的跳跃连接思想,特征层能够直接获取损失函数计算的梯度信息,并得到浅层网络结构的输入信息与负荷特征,减轻模型梯度消失问题,提高预测的精度,最后输出电力系统提取的特征信息来预测系统负荷的局部趋势,具体的特征信息提取链路的网络结构如图3所示。

图3 高频特征提取链路

2 基于VMD-EWT-IASSP-EBiLSTM的负荷预测模型

2.1 数据分解与参数确定

利用VMD分解原始负荷序列前,需预先确定惩罚因子α与模态分解数K。α决定各模态分量的带宽大小。当α增大时,各模态分量的带宽减小,反之,带宽增大。同样,模态分解数K的取值,直接影响分解结果。当K很小时,原始信号不能完全分解,分解误差大,预测精度低;当K较大时,原始信号被过度分解,随着累积误差的叠加,过多的分解会导致预测精度下降,增加计算负担。

通过均方误差损失函数来设计自适应优化模数K,具体的损失函数为

(11)

(12)

式(12)中:uk(t)代表第k次的模态分量。定义损失函数后,对VMD分解进行迭代优化,Ede越小,VMD分解越彻底。

经过VMD分解的残差序列,再利用EWT方法对残差序列进行进一步分解,降低负荷序列的复杂度,EWT分解的模态次数过大过小都会影响分解结果,考虑到VMD算法中心频率的收敛特性可自适应检测模态分量的边界与中心频率,因此ETW分解残差序列前,先利用VMD分解残差序列,利用中心频率的收敛自适应确定ETW的模态分解次数。

2.2 基于VMD-EWT-IASSP-EBiLSTM负荷预测模型

为提高电力系统负荷预测精度,基于VMD、EWT、IASSP、EBiLSTM模块提出了一种负荷预测模型,模型的预测流程图如图4所示。

图4 负荷预测模型的流程图

首先,利用VMD将原始负荷序列分解为若干次序列和残差序列,利用EWT对残差序列进行进一步分解。将VMD分解的子序列利用过零率进行高低频信号的划分,过零率的具体定义为

(13)

式(13)中:Z0为过零率;z0为过零的次数;N为负荷样本总数目。

然后将子序列划分的低频序列,利用EBiLSTM模块构建的网络结构进行负荷特征长期依赖性的捕获;划分的高频序列,利用IASSP模块进一步特征提取。最后叠加重构每个子序列的负荷预测,得到整体的负荷预测结果。

基于VMD-EWT-EBiLSTM-IASSP设计的负荷预测模型如图5所示。低频分量的主干网络通过堆叠EBiLSTM模块来捕获负荷的时序变化,堆叠的数量为1、2、4、4、2、2;高频分量的主干网络通过堆叠IASSP结构提取局部负荷特征,模块堆叠的数量为2、2、2、4、4、2,共同构成高低频双流链路的特征提取通道。将双流链路的提取的特征信息叠加重构,输入到64个长短时神经元结构,学习来自两条路径特征融合的长期依赖性,然后将长短时神经元捕获的特征通过跳跃结构进行连接。经过Concat层处理后作为全连接层的输入,同时为避免过拟合现象,采用Dropout层进行连接,最后经过激活函数为Sigmoid的全连接层预测电力系统的负荷信息。

图5 基于VMD-EWT-IASSP-EBiLSTM负荷预测模型

3 实验结果与分析

3.1 数据集与负荷序列分解

采用宁夏吴忠电网的实测数据为基础进行算法的验证。实测数据时间范围为2018年1月—2021年12月,包含了辐照度、温度、湿度的时序数据,采样周期为15 min。将2018年1月1日—2020年12月31日的数据作为神经网络预测模型的数据集进行训练,为了评估网络模型的泛化能力,根据交叉验证原则,将2021年1月1日—12月31日的数据作为测试集进行验证。

VMD算法分解负荷序列,设置VMD分解算法的初始参数,α设置为4 000,以调整每个模式分量的带宽到适当的水平。τ设置为0.000 01,λ设置为0,K初始化为1,Ede的阈值为0.03;然后利用VMD分解算法迭代更新参数,每次分解计算误差Ede。

VMD算法分解负荷序列迭代更新后,最终模态分解数K=5时,迭代终止,分解误差为0.026 7。因此取K=5为变分模态分解数目,具体的分解结果如图6所示。EWT的模态分解次数利用VMD分解残差序列中心频率的收敛来确定,最后模态次数为4时,序列的中心频率值收敛,因此ETW的模态分解次数取N=4,具体的分解结果如图7所示。

图6 VMD分解负荷原始信号

图7 EWT分解残差信号

利用过零率对分解序列进行高低频分量的划分,各模态分量的过零率计算如表1所示。其中取过零率大于0.05的模态分量作为高频分量,可看到IMF1与IMF2模态分量属于低频分量,IMF3、IMF4、IMF5模态分量与残差序列均作为高频分量。

表1 不同模态分量的过零率

3.2 模型损失函数与训练

网络的训练过程中,为更好地获得负荷预测的最优结果。整个训练过程共两个阶段,第一阶段,只训练主干网络的高频分量特征提取链路与低频时序依赖捕获链路;第二阶段基于一阶段训练的网络权重,对整体网络结构进行训练。训练过程中,采用Adam优化算法,寻找全局最优。定义神经网络预测模型的损失函数为

(14)

3.3 客观评价指标

为更系统地评估本文提出的神经网络模型对电力系统负荷预测,采用平均绝对误差(mean absolute error,MAE)[17]和均方根误差(root mean squared error,RMSE)[18]这两种客观评价指标对预测性能进行评估,具体的计算公式为

(15)

(16)

3.4 不同分解算法对比的实验结果

为验证VMD-EWT算法分解负荷序列对负荷预测的效果,选取EMD方法、VMD方法以及模态序列不分解方法,结合IASSP与EBiLSTM网络结构进行对比仿真验证。

取测试集测试验证,对所有预测结果统计分析,结果如图8所示。

由图8可看出,将原始负荷序列经过VMD-EWT、EMD、VMD与序列模态不分解的方法进行预测,曲线的总体趋势基本一致,在负荷波动处,相较于其他分解算法,本文提出的VMD-EWT算法的预测值更趋近于真实值。

负荷真实值与各算法预测结果利用式(15)进行评估,具体实验结果如图9所示,可看到本文算法误差范围趋于[0,100]区间,VMD误差范围趋于[0,200],EMD误差范围趋于[0,400],负荷未模态分解的预测误差范围趋于[0,500]区间,由误差范围区间可判断出采用VMD-EWT分解的方法,再采用神经网络模型预测的负荷精度更高。

图9 不同分解方法误差对比实验

采用客观评价指标均方根误差RMSE、平均绝对误差MAE,对不同模态分解方法做进一步的性能验证,具体的验证指标结果如表2所示。

表2 不同模态分解方法误差对比

如表2所示,本文提出的模态分解方法的RMSE指标与MAE指标误差更低,算法误差降低了53.7%～79.6%,进一步验证负荷序列在急剧增加或急剧减少的波动处,采用VMD-EWT分解方法进行特征分量的分解,有助于提高负荷模型的预测精度。

3.5 负荷神经网络模型对比实验

为了验证本文提出负荷预测模型的性能,与QR(quantile regression)算法[19]、ELM算法[20]、LSTM算法[21]、CNN-LSTM算法[22]等四种国内外前沿短期负荷概率预测方法进行对比。

为验证不同模型对电力系统负荷预测的性能,利用测试集进行负荷预测评估,预测结果如图10所示,从图10(a)～图10(e)可以看出本文算法、CNN-LSTM网络模型、LSTM模型对负荷的预测与真实负荷曲线趋势相近,而ELM算法与QR模型预测的负荷值与真实值略有偏差。为进一步评估不同算法模型对电力负荷预测的效果,绘制出不同模型的预测结果与真实值的绝对误差如图10(f)所示,可看到本文提出的神经网络算法的误差区间为[0,50],CNN-LSTM算法误差区间为[0,100],LSTM算法误差区间为[0,130],ELM算法误差区间趋于[0,240],QR算法误差范围趋于[0,200]。

图10 不同模型对能源系统的负荷预测

同样采用MAE、RMSE客观评价指标对不同模型的负荷预测结果进行评估,如表3所示。

表3 不同算法的预测误差对比

可直观体现出本文提出的负荷预测模型的误差相对较小,相比于现有的主流预测算法,负荷预测的绝对误差降低了37%～75%,更反映出本文提出的网络模型对电力系统的负荷预测方面效果更佳。

同时采用两年的实测数据进行模型的训练,数据量较大,环境覆盖比较丰富,包含大部分的负荷供给场景,实验数据也表明了本文所提负荷预测模型的可靠性较高。

4 结论

以时间为序列的电力负荷预测是高度非线性的,往往依赖于各种参数,并涉及许多不确定因素,较难预测,而准确可靠的电力系统负荷预测可以帮助市场参与者辅助构建智能化电网控制系统。本文基于VMD-EWT-IASSP-BiLSTM方法提出一种负荷预测模型,该算法利用VMD方法将原始负荷序列分解子序列与残差序列,利用EWT方法进一步分解残差序列,将具有复杂变化特征的原始负荷序列分解为一系列变换特征相对简单的子序列,降低原始序列的复杂性。利用过零率指标划分的高低频序列,分别采用IASSP特征提取模块与BiLSTM时序依赖提取模块进行负荷预测,最后叠加重构子序列预测结果,经过全连接层非线性映射得到最终的负荷预测结果。以宁夏某地实测数据进行模型泛化能力的验证,得到如下实验结果。

(1)采用VMD-EWT分解的方法,相较于其他负荷分解的方法,负荷预测精度更高,预测误差降低了53.7%～79.6%。

(2)构建的神经网络负荷预测模型,相较于国内外前沿神经网络,负荷预测的MAE均方根误差降低了36.3%～70.9%,RMSE绝对误差降低了37%～75%。

(3)后续网络模型的输入还会考虑一些其他干扰负荷预测的因素,比如天气信息、负荷电价等因素。