基于改进粒子群优化算法的VMD-GRU短期电力负荷预测

段雪滢，李小腾，陈文洁

(1. 西安交通大学电气工程学院，陕西 西安 710049； 2. 国网陕西省电力科学研究院，陕西 西安 710000)

1 引言

电力系统中稳定、有效的管理和调度在很大程度上取决于不同时间范围内对未来负荷需求的精确预测。可靠的短期负荷预测可以帮助公用事业和能源供应商应对未来智能电网中日益复杂的定价策略，从而应对可再生能源的更高普及率和电力市场发展所带来的挑战[1]。当前，用于电力负荷预测的方法主要包括传统的预测方法和人工智能的预测方法。时间序列方法[2]和趋势外推法[3]等传统方法主要基于线性模型，难以反映电力系统的负荷。非线性特征和建模过程通常不会考虑温度、湿度和假期类型等因素[4]。文献[5]考虑了影响负荷输入的几个因素，并建立了神经网络预测模型，但是该模型需要设置网络结构参数以提高模型性能。文献[6]分析了各种影响因素，并建立了区域支持向量机的预测模型。结果表明，支持向量机具有更好的泛化能力。另外，一些研究者提出使用智能优化算法来改善模型参数以提高模型预测精度，例如遗传算法，粒子群算法等[7,8]。其他诸如相似性分析方法以及每天日负荷预测模型的建立也在一定程度上提高了预测准确性[9]。

为了提高电力负荷预测的准确性，一些学者提出了组合预测模型[10,11]。一种方法是通过使用不同模型预测结果的不同权重来获得最终的组合预测结果[12]；另一种广泛使用的方法是先对原始载荷序列进行预处理，将其分解为多个分量，然后为每个分量建立一个预测模型，最后将每个分量的预测结果叠加以获得最终的预测值[13]。常见的分解方法有小波变换[14]、相空间分解[15,16]、傅里叶分解、经验模态分解(Empirical Mode Decomposition, EMD)[17-20]和集合经验模态分解(Ensemble Empirical Mode Decomposition, EEMD)[21]等，生成相应的时域子负荷序列，然后对各个子负荷序列进行预测，将预测结果相加得到最终的预测结果。

文献[22]提出将EMD作为一种负荷分析方法，该方法运用EMD将目标负荷序列分解为几个独立的固有模式，然后为每种模式建立一个预测模型。文献[23]提出了一种短期负荷预测方法，该方法结合了EEMD和艾尔曼神经网络。EEMD有效地解决了EMD方法中存在的模态混叠问题，并改善了信号分析能力。

近年来，一些研究人员开始通过利用变分模态分解(Variational Mode Decomposition, VMD)方法研究电力负荷信号的分解[24-26]。VMD是一种自适应、完全递归的模态变分和信号处理的方法。它克服了EMD方法存在的端点效应和模态混叠的问题，可以降低复杂度高和非线性强时间序列的非平稳性，分解获得多个不同频率尺度且相对平稳的子序列，但是分解层的数量难以确定，而且仅追求分解和重构的精度，忽略了电力负荷的自然特性。实际上，电力负荷信号不包含相对固定的高频信号，高频的变化是负荷随机性的体现，高频带中的过度细分几乎没有物理意义。

针对上述问题，本文提出了一种基于改进粒子群优化算法(Improved Particle Swarm Optimization,IPSO)进行参数寻优的VMD分解和门控循环单元(Gated Recurrent Unite, GRU)预测方法。首先，采用VMD方法将电力负荷信号分解为根据区域负荷特性的趋势分量、波动分量和随机分量等组成模式；然后，利用GRU网络学习区域电力负荷的构成模式并建立相应的预测模型。在模型的训练过程中，使用本文提出的改进粒子群优化算法进行参数寻优；最后，通过组合多个预测模型的输出获得总的负荷值。

2 电力负荷数据的分解及其特性

2.1 变分模态分解的原理

VMD是一种新的非平稳信号自适应分解方法，可以将原始复信号分解为k个调幅和调频子信号。假设每个模态是具有不同中心频率的有限带宽，则目标是使每个模态的估计带宽之和最小。VMD主要包括变分问题的构造及其解决方案。

构造变分问题的步骤如下：

(1)对于每个模式函数uk(t)，通过希尔伯特变换计算相应的分析信号以获得其单边频谱。

(1)

式中，δ(t)为狄拉克函数；k为需要分解的模态个数。

(2)对于每个模式函数uk(t)，通过混叠与模式函数uk(t)对应的中心频率ωk的指数项e-jωkt，将每个模态的频谱调制到相应的基本频带。

(2)

使用调解信号的高斯平滑方法估计每个模式信号的带宽，解决了约束条件下变分问题，目标函数为：

(3)

式中，{uk}={u1,…,uk};{ωk}={ω1,…,ωk};∂t为对t求偏导；f为分解前的原始复信号。

变分问题的求解过程如下：

二次惩罚因子α和拉格朗日乘法算子λ(t)用于将约束变分问题转换为非约束变分问题。其中α保证了信号的重构精度，而λ(t)则保持了约束的严格性，扩充的拉格朗日表达式如下：

(4)

(5)

通过傅里叶变换将式(5)变换到频域，然后获得二次优化问题的解为：

(6)

按照相同的过程，得到中心频率的更新方法。

(7)

2.2 基于VMD的负荷特性分析

电力负荷具有波动性和随机性的特征。波动性反映出负荷消耗随时间变化且是不可控的。电网需要预测负荷需求的波动，并执行相应的调度计划。随机性反映了电力负荷消耗的随机变化，这是难以预测的。通常，电网需要按火电单元安排旋转储备，以应对需求的随机变化。旋转设备的布置不充分会导致负荷消耗的缩减。

VMD的原理表明，它具有扎实的数学基础，使得其分解结果具有实际的物理意义。原始信号根据需要划分的信号数量进行最佳划分。动态选择中心频率，并使每个子信号的带宽之和最小。因此，可以将VMD视为对原始信号进行深度分析之后的分解方法。

本文使用陕西省某地区的负荷消耗构成时间序列数据。每个采样点代表一天，图1所示的负荷数据是从2014年1月开始的1 461个观测值，图2所示为通过VMD获得的六层分解信号，即本征模态函数(Intrinsic Mode Function, IMF)。

图1 陕西省某地区电力负荷Fig.1 Electricity load in certain area of Shaanxi province

图2 陕西省某地区电力负荷的VMD分解结果Fig.2 VMD decomposition results of power load in certain area of Shaanxi province

根据图2所示的分解结果，可以很容易地发现IMF1反映了原始数据的整体趋势，IMF2、IMF3显示了较小时间周期内的波动情况，IMF4～IMF6为较高频段下的负荷消耗变化。为了对信号进行深度分析，可以进一步增大VMD分解的层数k。随着k值的增加，原始信号的解析将更加详细，高频中的某些特性也可以更加清晰地表达出来。

但是对于应用VMD分解结果进行负荷预测而言，过多的分解层不一定会带来更好的预测结果。以本文提出的VMD-GRU预测模型为例，其核心思想是为每个对应的信号建立一个预测模型，然后对其进行合成以获得总的预测输出。分解的层数过多会导致预测子模型的增加。此外，当分解层数很多时，图2所示的IMF5这种高频带中的分解模式分量具有更多的零值或接近零的值。当k值较大时，甚至近似为白噪声，这种过度分解的结果，其组成模式较少，用其进行模型训练反而会带来更大的误差。因此，本文使用多次试凑的方法逐渐增加k，选择训练时间和预测误差综合最优对应的分解个数。

同时，区域负荷的自然特性也决定了它不适合过多的分解层。在发电侧旋转机械故障诊断领域，由于机械故障的存在，振动信号可能具有周期性的高频成分。在电网的谐波控制领域，由于存在具有不同特性的谐波源，电网的电压和电流中也存在周期性的高频信号。在上述情况下，为了区分高频特性信号，往往需要更多的分解层。但是，一个地区的电力负荷消耗具有很强的波动性和随机性。尽管信号中包含一些高频成分，但在高频段中，很大一部分负荷消耗是纯粹的随机行为或白噪声。对于电力系统，负荷需求的短期、高频、小范围变化可以看作是随机干扰，可以通过依次频率调制自动平衡，而无需其他特殊措施。负荷消耗的高频大范围变化是典型的用户用电随机行为，没有周期性和规律性。在高频下过度分解这些信号是没有意义的，一段时间内负荷消耗的波动和总体随机性是电网必须关注的行为。

3 基于改进粒子群优化算法的VMD-GRU电力负荷预测方法

3.1 改进的粒子群优化算法

在标准的粒子群优化算法(Particle Swarm Optimization, PSO)中，粒子最初随机分布在搜索空间中。在整个搜索过程中，粒子学习并保留有关环境的某些信息，即其位置、速度和找到的个体最佳位置。在每次迭代时，通过将粒子的当前位置和速度相加来更新粒子的位置。速度对粒子的下一个位置影响最大，并使用两条信息来计算：粒子的个体最佳位置和群体的最佳位置。标准PSO的速度和位置计算如下：

(8)

(9)

动态多群粒子群优化算法(Dynamic Multi-Swarm Particle Swarm Optimization,DMS-PSO)是具有动态拓扑结构的PSO算法的一个变体。DMS-PSO搜索最初是将种群分为许多相对较小的子群，每个子群均基于其最佳历史信息进行搜索，并且在搜索过程中不与其他子群进行通信。其本质上是带有子群并行搜索的共同进化PSO。PSO迅速收敛的总体趋势导致子群收敛到局部最优。为克服此问题，DMS-PSO采用以特定间隔进行重新分组的策略，以使用新的小群配置继续搜索，并且通过采用重新分组策略，在每个群组之间交换可行的信息。假设存在9个粒子，并随机分为3个子群。随后，每个粒子在其子群内搜索以找到更好的解决方案。使用式(9)、式(10)更新DMS-PSO算法的粒子位置为：

(10)

式中，lbest为动态群组的最佳位置。

本文通过引入新的动态拓扑结构和粒子行为来提高DMS-PSO算法的性能。

(1)提出的动态拓扑结构

(2)通信模型

信息流和粒子之间的相互作用在维持群体多样性和粒子指导方面起着重要作用。在本研究中，不是使用全局或任意信息交换，而是使用粒子之间的单位层次结构和从属粒子之间的假定区别来限制和控制粒子之间的流动信息。具体来说有以下规则：

1)第i个单位的粒子不直接与第j个单位的粒子连通，仅通过从属粒子建立通信。

2)主粒子只能与它们的一个从属粒子交换信息。

3)从属粒子只能与相同类型的从属粒子通信。

(3)搜索过程

本文在搜索过程中提出了一个聚集度的概念，其定义如式(11)：

(11)

式中，AD为聚集度；N为单元数目；D为更新次数。

在PSO算法开始的时候，聚集度比较大，粒子相对分散，群体多样性高。随后，聚集度开始变小，粒子更加聚集，群体多样性开始减小。当聚集度变得非常小的时候，粒子群就比较容易陷入局部最优解。所以，可以设定一个聚集度的阈值，当聚集度小于阈值时，执行动态拓扑结构中的分群。

对于分群后的主粒子和从属粒子，可以选择使用单位成员的信息来指导其运动，或者保持其层次结构的同时向其他单元学习。主粒子和从属粒子可以随机选择以下两组方程中的一个来更新其速度：

(12)

(13)

第一组方程中主粒子可以根据几种不同的指导进行搜索，从属粒子被引导向主粒子的最佳位置搜索。该过程实质上允许每个单元同时探索和利用自身的解决方案。第二组方程的搜索策略有利于一个单元的粒子向其他单元的粒子学习，而群体知识则将他们的多样性保持在一定水平上，并允许单元成员在t时刻探索更多有可能的位置，以避免潜在的局部最佳。这种内向和外向学习策略使粒子可以引发其行为的单次波动，从而增强了单元的多样性并摆脱了局部极小值。

PSO算法具有三个参数，即加速度系数c1、c2和惯性权重ω1。许多文献中提出了针对不同问题的最佳参数设置，并引入了控制方法以保持对个体和群体平衡的最佳控制。在本文中，将c1和c2设置为文献[27]中引入的随时间变化的加速度系数，改善了早期的全局搜索并加速搜索过程后期的收敛。惯性权重通过使用S型函数进行非线性递减来控制。S型函数的平滑、单调和连续属性有助于线性和非线性的良好平衡[18]。与DMS-PSO中采用的重组策略类似，本文采用了相关参数。但是，引入的机制并非旨在重新组织和交换信息，而是在保持主从结构的同时重塑单元的形状，目的是通过在保持其层次结构的同时随机切换每个单元的粒子来进一步改善整个群体中较小群体的多样性。

3.2 基于改进PSO的VMD-GRU预测模型

本文使用VMD技术将原始数据分解为一组有限的IMF，然后每个IMF由GRU进行建模得到预测结果，最后所有的预测结果使用另一个GRU对各IMF的预测结果进行汇总，生成原始负荷序列的整体预测结果。同时，采用3.1节提出的改进粒子群优化算法设置每个GRU的初始权重。图3所示为用于预测陕西省某地区用电负荷的集成系统。

图3 基于改进PSO算法的VMD-GRU预测模型Fig.3 VMD-GRU prediction model based on improved PSO algorithm

采用VMD-GRU方法后，电力负荷时间序列被分解为一组有限的IMF。然后，使用GRU对每个IMF进行建模，以更好地捕获每个IMF的趋势进行准确预测。目的是对分解后的成分进行建模，并对每个成分进行相应的预测。最后，使用最终的GRU将所有IMF的预测结果合并，以生成原始负荷序列的整体预测结果。其中，每一个IPSO-GRU模型均利用3.1节提出的含点预测不确定性评估方法进行训练和学习。

本文提出的IPSO-GRU原理如下：

(1)自归一化的GRU

GRU是由Cho等人提出的一种门控循环神经网络，它可以让每个循环单元自适应地捕捉不同时间尺度的独立性。GRU的核心思想和长短期记忆网络(Long Short-Term Memory，LSTM)类似，但是GRU将LSTM的输入门和遗忘门融合为一个更新门，同时将输出门改为重置门，使得GRU具有更简单的结构，因此更容易训练，只需要较少的计算即可更新其隐藏状态。

在传统的GRU结构中，输出单元没有非线性变换，随着GRU层数的增加，将会带来梯度爆炸和梯度消失问题。为了解决这一问题，文献[28]提出了SELU作为输出单元的激活函数，即：

(14)

式中

g1=1.050 700 987 355 480 493 419 334 985 294 6

v=1.673 263 242 354 377 284 817 042 991 671 7

SELU通过正、负两部分来控制均值，同时，当深层过大时，它具有导数接近零的饱和区域来抑制方差过大；当深层过小时，SELU通过大于1的斜率增加方差。具有SELU激活函数的自归一化GRU结构如图4所示，图4中，h(t-1)，h(t)分别为上一时刻、当前时刻的隐藏状态，x(t)为当前时刻输入，σ为Sigmoid函数，φSELU、φtanh为激活函数中的SELU函数和tanh函数。

图4 自归一化的GRU结构Fig.4 Self-normalized GRU structure

GRU的更新门用于控制前一时刻的状态信息被代入到当前状态中的程度，更新门的值越大说明前一时刻的状态信息代入越多。重置门控制前一状态有多少信息被写入到当前的候选集，重置门越小，前一状态的信息被写入的越少。其前向传播过程如下：

(15)

(2)基于IPSO的GRU权值初始化

GRU的学习速度快且训练误差较小，但是其隐藏层之间，以及隐藏层和输出层之间的初始化权重是随机选取的，对于后续的训练过程缺乏针对性。改进的粒子群优化算法全局寻优能力强，将其引入到GRU的网络训练过程中可以进一步提高其模型预测能力。基于IPSO的GRU权值初始化过程如下：

1)对于给定的训练集[xi,yi]，初始化Np个维数为E(E=Kn+1，其中K为GRU的隐藏层的数目，n为输入神经元的个数)的参数向量tq,g(q=1,2,…,Np)，任一维的取值范围为[-1, 1]，g为迭代的次数。

GRU的初始权值矩阵和偏置向量构成粒子群个体，对于每个群体中的个体tq,g，计算出各个门控单元，候选状态以及网络的输出结果。

2)计算每个粒子对应的GRU预测结果，取均方根误差作为IPSO算法的适应度函数，优化目标为均方根误差最小的GRU对应的粒子。

3)更新群体最优gbest和个体最优pbest。

4)计算聚集度AD。

5)当AD达到阈值，按本文提出的新动态拓扑结构和粒子搜索行为更新粒子的速度和位置。

6)达到IPSO终止迭代次数条件后，完成GRU模型的初始化过程。

完成GRU的初始化过程后，继续使用该算法进行网络参数的学习，模型训练流程如图5所示。分别对每一个经过VMD分解的IMF分量构建并训练GRU模型，最终通过新的GRU网络整合各分量的预测结果。

图5 模型训练流程Fig.5 Model training process

4 模型性能评估实验与分析

4.1 实验数据与实验流程

本文选择陕西省某地区2014年1月～2017年12月的用电负荷，该数据以天为采样频率记录了该地区近四年的用电消耗。共计1 461个采样值，有近0.34%的异常值，按照本文提出的指数加权均值插补方法进行异常值填充。将数据集以7∶3的比例划分为训练集和测试集，采用滑动窗口的方法构造监督学习的样本，输入前七天的数据作为负荷时间序列，预测第八天的负荷值。最后对输入数据进行0-1标准化处理。

完成数据预处理操作后，首先采用VMD方法将电力负荷信号分解为根据区域负荷特性的趋势分量、波动分量和随机分量等组成模式；然后，利用GRU网络学习区域电力负荷的构成模式并建立相应的预测模型，在模型训练过程中，使用本文提出的改进粒子群优化算法及不确定性方法进行模型构建、参数寻优和评估；最后，通过组合多个预测模型的输出获得总负荷值。模型结构及其典型参数见表1。

表1 基于改进粒子群优化算法的VMD-GRU模型参数Tab.1 VMD-GRU model parameters based on improved particle swarm optimization algorithm

在Jupyter平台上对本节提出的基于改进粒子群优化算法的VMD-GRU电力负荷预测模型进行实验。实验所使用计算机的配置如下：处理器为Intel®CoreTMi7-3537U，CPU频率为2.50 GHz，内存为8 GB，操作系统为Windows 10 (64位)，基于Python 3.6编程，集成开发环境为Anaconda 4.3.30. LSTM，GRU实验使用的是keras深度学习框架。

4.2 实验结果与对比分析

为了评估本文所提出的基于改进粒子群优化算法的VMD-GRU电力负荷预测模型的有效性，分别采用第3节中提到的两种广泛使用的度量指标，即均方根误差和平均绝对百分比误差进行评估。

实验的对比分析主要分为三部分：首先对本文提出的IPSO算法进行了测试；接着对比了自归一化的GRU和GRU的性能差异；最后将完整的基于改进粒子群优化算法的VMD-GRU模型和几种效果较好的基线模型进行对比，以验证该方法的有效性。

(1)改进的PSO算法的性能

改进的PSO算法的性能分析主要分为两部分：一是算法本身解决最优问题的效率；二是算法对预测模型参数寻优的效果。

关于算法本身的性能，本文使用CEC2017基准测试套件，将提出的方法与4种最新的PSO变体进行了比较，即HCLPSO[29]、DMS-PSO[30]、SRPSO[28]、 CLPSO[31]。所有方法的粒子数设为50。CEC2017测试套件包括30个测试功能，对于所有问题分别测试30次，并对30维进行了3 000 000次功能评估，对50维进行了500 000次功能评估。针对30维和50维问题的CEC2017测试套件的平均误差见表2和表3。

表2 CEC2017测试套件30维问题的平均误差Tab.2 Average error of 30-dimensional problem of CEC2017 test suite

表3 CEC2017测试套件50维问题的平均误差Tab.3 Average error of 50-dimensional problem of CEC2017 test suite

在针对CEC2017问题获得的最终等级上进行的Wilcoxon带符号秩检验表明，对于30维问题，本文算法与除DMS-PSO之外的所有比较方法之间的结果都非常显著。在p<0.05的情况下，对于50个维度的问题大小，所提出的算法与所有比较方法之间的效果都有显著差异。改进的PSO算法在部分问题如F1～F3、F8、F9等获得了较好的性能。

该实验的平均误差和最终排名见表4。对于30维度的问题，SRPSO排名最高，其次是IPSO算法。所提出的方法在5个最新的PSO变体中排名第二。对于50维度的问题，SRPSO获得最高排名，其次是IPSO。

表4 各算法的误差值及误差排名Tab.4 Error value and error ranking of each algorithm

关于改进PSO算法对预测模型的影响，本文对比了遗传算法(Genetic Algorithm, GA)、标准PSO和改进PSO参与VMD-GRU模型参数寻优过程的预测误差，分别运行10次，得到均方根误差(Root Mean Square Error, RMSE)和平均绝对百分比误差(Mean Absolute Percentage Error, MAPE)见表5。

表5 各算法预测误差Tab.5 Forecast errors of each algorithm

可以看到本文提出的改进PSO算法对于模型的预测精度在RMSE和MAPE两个指标上均获得了一定的提升。相较于未使用任何权值寻优算法的VMD-GRU模型，其RMSE下降了11.4%，MAPE下降了10.9%。相较于使用标准PSO算法，其RMSE下降了2.1%，MAPE下降了4.4%。

(2)自归一化的GRU的性能

仍然使用本文提出的基于改进粒子群优化算法的VMD-GRU预测模型作为比较对象，将其中的自归一化GRU模型替换为标准GRU模型，分析自归一化结构对预测结果的影响，同样进行10次实验，取误差的平均值代表模型性能，结果见表6。

表6 自归一化GRU模型性能Tab.6 Self-normalized GRU model performance

显然，本文提出的自归一化GRU也使模型的性能得到了有效提升，其中RMSE降低了3.5%，MAPE降低了4.7%。

(3)基于改进粒子群优化算法的VMD-GRU电力负荷预测方法的性能

为验证本文提出的基于改进粒子群优化算法的VMD-GRU模型的有效性，选择了几种不同的基线模型，包括基于时间序列的整合移动平均自回归模型(AutoRegressive Integrated Moving Average model, ARIMA)、基于回归模型的支持向量回归(Support Vector Regression, SVR)、基于集成学习的极限梯度提升(eXtreme Gradient Boosting, XGBoost)和基于神经网络模型的LSTM，测试了其在RMSE和MAPE指标上的预测误差，结果见表7。

表7 各模型预测误差Tab.7 Forecast error of each model

由于进行实验的数据是陕西省某地区的区域级负荷，数据本身相对平稳，且聚合程度较高，随机性较小，因此可以看到使用简单的ARIMA模型就已经可以获得较好的预测结果，其次是单一的LSTM和GRU，预测误差仅次于本文提出的改进模型。SVR预测效果最差，XGBoost这种相对复杂的模型在该数据上并没有获得特别好的预测结果，和ARIMA的预测误差较为接近。本文提出的基于改进粒子群优化算法的VMD-GRU预测模型相较于基线模型中最好的RMSE指标提升了7.3%，MAPE指标提升了9.5%。

从测试集中抽取60天的实验结果进行可视化，如图6所示，展示了真实负荷和不同模型的预测结果。可以发现SVR对原始数据的预测最不准确，尤其是在较大范围的负荷波动时，难以跟随其真实值，甚至有一定的延迟效应。XGBoost虽然在大范围波动时能够较为准确地预测，但是当数据相对平稳时，会发生剧烈抖动，预测效果较差。ARIMA、LSTM和GRU整体上都获得了不错的预测结果。ARIMA在数据波动较大时更加尖锐，数据波动较小时更加平滑，且其变化趋势也有一定的延迟。LSTM和GRU能够更加准确地预测平谷小波动和峰谷大波动。本文提出的基于改进粒子群优化算法的VMD-GRU模型则在LSTM和GRU的基础上对原始数据进行了更加精确的估计，预测误差达到最小。

5 结论

本文介绍了一种新的基于改进粒子群优化算法的VMD-GRU电力负荷预测方法。对陕西省某地区的真实电力负荷数据应用该方法，实验结果表明所提出的改进粒子群优化算法优于最新的元启发式算法和PSO变体，自归一化GRU相较于标准GRU获得了更好的预测结果，融合的基于改进粒子群优化算法的VMD-GRU电力负荷预测结构，在预测误差上对比现有较强的基线模型获得了较大幅度的提升。