基于神经网络的电力系统运行自动检测

朱 菊 陈雯雯

（襄阳诚智电力设计有限公司）

0 引言

电力的生产、传输和分配在一个国家的经济中占有很大的比例。因此，重要的是，所有的电力系统设备运行在最高效时，要注意防止事故的发生。电力线路故障检测和定位一直是电气工程师面临的问题，如果忽视这些故障，可能会破坏电力网络的正常运行，并严重损坏电力线和连接在其上的设备。由于这些缺陷造成的电力财产损失会对一个行业甚至一个国家造成危害。电力系统总成本的4%～5%都花在防护设备上。因此，高效的故障检测机制对于整个电力系统来说变得至关重要。电力系统中存在对称分流器故障、非对称分流器故障、高阻抗故障等多种故障［1-2］。如电容器开关、负载开关、变压器开关、DG开关和馈线开关等可能与电力系统条件（如绝缘子泄漏和变压器涌流）一起被错误地归类为故障。

本文提出了一种用于最新结果的Transformer模型，该模型考虑了RNN以及RNN注意力模型的长期依赖问题。它还摒弃了对复杂CNN特征提取器。为了开发变压器体系结构，本文利用DARTS，它优化了一个可微变的搜索网络模型，在几个TPU小时内发现一个候选的最优变网络。虽然DARTS策略已被用于寻找最优的CNN和RNN模型，但该算法尚未应用于较优的Transformer网络进行时间序列分类。通过在VSB电力线数据库上进行再训练，研究了优化变压器单元的结构可移植性。采用多种评估指标和可视化来测量来讨论这些模型的性能。

1 理论分析

在这一部分中，我们提出了差分结构搜索（DARTS）变压器网络用于电力系统的故障检测。利用DARTS算法来实现自动化体系结构搜索过程并发现最佳变压器网络。在不同相位和母线位置的电力系统中引起的各种电力系统故障，监测点测得的三相电流信号被叠加到通道中并存储到数据库中。利用训练数据库，利用DARTS算法寻找最优的变压器单元。然后利用训练数据库和验证数据库对最优变压器模型进行超参数调整。最后利用测试数据库对变压器最优模型进行评估，根据不同的分类指标来检测故障类型和故障的母线位置。

1.1 变压器序列分析

预处理后的电流信号作为模型的输入，变压器模型采用多头注意和前馈网络将当前信号转化为嵌入信号。这些嵌入捕获时间数据上下关联，然后这些嵌入被分类利用，实现输出最终的模型预测。研究者对变压器模型提出了一种建立在自我关注机制之上的架构，而没有使用递归网络。

变压器由几个堆叠的编码器模块组成，每个模块在下一个级别输入编码器。每个编码器模块采用多子层和前馈网络，其中每个子层采用剩余连接和层归一化。注意力编码器的输出不依赖于输入的顺序。因此，在特征嵌入中增加了位置嵌入，保留了序列顺序的信息。将嵌入序列作为查询（Q）、键（K）和值（V）传递给注意力编码器模块。自我关注允许模型在处理一个特定的嵌入时，按照需要关注的顺序关注其他嵌入。在自我关注层中使用了缩放的点积注意机制，它可以通过缩放值进入到一个可管理的范围来获得稳定的梯度。

多头关注将多个自我关注表征连接起来，以获得关注输出，从而扩展了模型关注序列中不同部分的能力。关注力输出通过前馈网络传递到下一个编码器模块，该前馈网络具有子层之间的剩余连接。

1.2 差分体系结构搜索

通过差分结构搜索（DARTS）算法来寻找最佳的变压器网络结构。DARTS算法使用基于单元格的搜索空间，其中输入和输出特征映射的单元格具有相同的尺寸。128个特征嵌入被保持为每个时间步长的恒定维数。该算法采用了变压器模型作为元体系结构。DARTS算法的目标是发现一个由N堆叠搜索单元组成的SearchNet。每个单元组成一个有向无环图，将每个节点连接到前面的所有节点［3-5］。边表示深度学习层操作，节点结果作为这些操作在前面节点上的输出。每个节点zk∈Z表示一个长量，并与其上层节点Ik上的操作ok∈O相关联，因此节点k由下式得：

该算法预先定义了一组操作（O），构成单个固定层操作o（），如致密、卷积、注意等。DARTS算法在结构参数{ai，j，k} 中使用二进制变量，使搜索 空间连续，从而简化了节点k上张量的定义。

因此，任务减少到寻找沿边缘的最佳操作组合，以连接每对节点，以获得最佳的验证性能。边存在于n个节点(i，j)对之间，其中0≤i≤j≤n-1。DARTS算法将从i传播到j的嵌入表示为运算的加权和。该算法通过计算选择一个操作作为最大松弛整体操作的分类概率。DARTS如图1所示。

图1 DARTS的概述

网络权重在训练损失上更新，体系结构编码在验证损失上更新，目标是找到最小化a*的Lval（ω*，a*），因此，提出了一个双层最佳化问题。

Ltrain是梯度反向传播优化网络权值的训练损失(ω)和Lval是梯度反向传播优化网络结构参数的验证损失(a)。这为整个搜索和培训过程提供了一个可差异化的解决方案，如下式：

2 实验分析

2.1 实验验证

基于IEEE 14总线系统与发电机和负载进行了研究以及MATLAB／Simulink模拟，以获得不同的故障和电力系统条件的数据。IEEE 14节点系统由14节点、2台发电机、3台补偿器、3台变压器、20个支路和2个并联电容器组成。该系统工作在50Hz的频率。该系统共有11个负荷，总实际负荷为310.8MW，无功负荷为118.33Mvar。母线的额定电压为230kV。如图2所示，用于本实验的14节点系统的线路图。IEEE 14总线的发电机、补偿器和负载参数依据参考文献设定。

图2 IEEE 14线路图

通过在测得的电流信号中加入电噪声信号进行数据增强，得到了平衡的数据。数据增强通过增加模型的泛化能力从而减少方差来显著提高深度学习模型的性能。图3显示了一些模拟当前数据的例子。并得到了显示了用于训练、验证和测试的数据分解。

图3 母线处故障电流值

DARTS算法是使用智慧云上的数据库建立、训练和评估的。采用DARTS算法寻找变压器模型的最优结构。然而DARTS算法不能保证收敛性。搜索得到的结构需要重新训练和超参数调整，以确定收敛性。70% 的数据库用于训练和搜索ARTS变压器模型。使用学习率为0.001的Adam优化器来训练和更新训练集上的模型权重，而使用学习率为0.0005的Adam优化器来更新验证数据集上的架构参数。利用分类交叉熵损失进行故障分类。

为第i个模型预测，yi为第i个目标值，输出大小为总训练样本的数量。图4为DARTS搜索过程的训练曲线。搜索运行了500个纪元，消耗了40TPU小时。

图4 变压器体系结构计算

2.2 实验分析

一维CNN模型不能学习时间序列数据，而RNN模型由于梯度的消失而不能适应长序列数据，从而产生了长期依赖问题。具有关注机制的RNN模型改善了长时序数据的序列学习，但未能提取相关特征进行预测。细胞神经网络关注力模型进一步建立在这个概念的基础上，通过使用深层细胞神经网络进行时间分布特征提取来提高性能。该变压器模型通过使用多头关注机制聚合多个自注意，表示学习时间数据的上下信息，从而提高了检测性能。改进的评价指标可以归功于模型能够更好地适应训练数据的偏差减少。深度学习模型对噪声具有很强的鲁棒性，不需要耗时的信号分解和人工特征工程。DARTS算法通过搜索具有一组固定候选操作的最佳变压器编码单元，进一步自动化变压器网络的超参数调整。采用放大(N ＝)6 和缩小(N ＝2) 模式对N＝4层DARTScell搜索的变压器模型进行再训练。现实环境中的故障数据库由于缺乏某些故障数据类中的样本可用性而容易出现数据不平衡。深度学习模型在训练过程中严重依赖标记数据，使得它们不适合从少数样本中学习。利用在IEEE 14总线系统上进行故障分类和定位的最优变压器单元，对VSB电力线数据库中的故障进行识别，证明了该方法体系结构的可转移性。

3 结束语

本文详细介绍了DARTS算法，用于寻找与电流／电压信号数据有关的最佳变压器模型，以便在模拟电力系统中检测各种电力系统状态的类型和母线位置。DARTS算法通过选择变压器网络中要合并的最佳操作来自动搜索和发现最佳变压器结构，从而产生更好的通用性。该方法只需5小时（40TPU小时）就可以在一个8核TPU上搜索500纪元的最优模型，从而节省了数百小时的手工建筑工程。因为DARTS搜索使过程可微化，从而降低了搜索和训练的计算成本。结果表明，DARTS变换器模型与复杂的深层细胞神经网络模型和注意力模型具有相似的结果，并且具有降低内存和延迟时间复杂度的优点。DARTS变压器模型对IEEE 14总线系统的故障类型检测和故障定位分类分别给出了99.35%和97.62%的MCC评分。该模型在1.44ms内完成推理，使继电器机构具有鲁棒性。

通过对IEEE 14总线故障数据库中的变压器单元进行再训练，以适应不同的时间序列分类问题，即VSB电力线故障数据库，验证了该方法的体系结构可转移性。在现实环境中最优变压器模型给出了93.7%的F1分数和87.8%的MCC分数。该智能算法系统可以代替传统的检测方法，实现精确、鲁棒的故障检测和定位。