深度残差网络在断路器故障诊断中的应用

杜太行，孙 靓，孙曙光，陈 帆，刘金发

(河北工业大学人工智能与数据科学学院，天津 300130)

0 引言

万能式断路器作为低压配电网中的重要设备，有着保护和控制双重作用。因此，对断路器进行故障诊断对于电网的安全运行具有重要的意义[1-2]。分合闸附件作为万能式断路器的关键部件，其稳定工作与断路器的安全与稳定运行直接相关，因此对运行过程中可能产生的故障进行诊断是非常重要的。

断路器在运行过程中，分合闸线圈电流信号不仅具有较高的稳定性，而且可以体现研究对象的机械状态，可以用于断路器的故障诊断[3]。由于本文研究的低压万能式断路器的分合闸线圈采用交流短时工作制方式，因此分合闸动作时线圈回路合闸相位的随机性对电流特征具有一定影响。此外，目前普遍采用卷积神经网络进行特征的提取与故障类型的诊断[4]，但卷积神经网络会随着网络的深度增加出现识别率下降问题，对故障诊断准确率造成影响。为了解决上述问题深度残差网络(deep residual network，DRN)被提出，近年来逐步被研究人员应用到故障诊断领域中，并取得了许多显著的效果[5-6]。赵敬娇等提出了一种基于残差连接的一维卷积神经网络的轴承故障诊断模型[7]。L. S. Hou等提出了一种不需要预先设定参数的原始信号特征自动提取方法，并利用DRN作为故障分类器对轴承振动数据集进行故障诊断[8]。在上述应用中，DRN一方面可以加快深度较大的神经网络的训练速度，另一方面可以很大程度提升模式识别的准确率。

考虑到所研究的分合闸线圈电流信号持续时间短，尽管采用一维数据可以保留信号原始信息[9]，但其作为神经网络的输入会存在数据长度的局限性，存在输入神经网络的数据量不足的问题。近年来，针对此问题，各学者采用短时傅里叶变换[10]、连续小波变换[11]、灰度预处理[12]等方法将一维数据转化为二维图片作为神经网络的输入的方式来解决。此外，相对于文献[8]中振动信号，本文所研究的分合闸线圈电流信号比较平稳，包含的有效特征信息较为微弱，宜结合不同信号特点，选取合适的数据处理方式。

基于上述整体分析，本文提出了一种基于深度残差网络的万能式断路器分合闸附件故障诊断方法。首先采用信号堆叠的方法将原始的一维电流数据转化为二维灰度图，其次采用自适应参数化修正线性单元(adaptively parametric rectifier linear units，APReLU)激活函数代替原始的ReLU激活函数实现对DRN的改进，并引入AMSGrad优化算法，以更好地适应数据特征，从而提高故障诊断的识别率。

1 DRN网络原理

卷积神经网络随着深度的增加会出现低精度和过拟合的问题，为了解决此问题提出了DRN。残差块是DRN模型结构的核心，其结构如图1所示。

图1 残差块结构示意图

由图1可知，残差块存在一条从输入到输出的路径，可以直接把输入传到输出，输出结果为

H(X)=F(X)+X

(1)

当F(X)=0时，H(X)=X，即恒等映射。所以深度残差网络学习是H(X)与X的差值，而不是一个完整的输出。因此，随着网络的训练，将残差结果逼近于0，实现神经网络深度增加而准确率不下降的目标。

2 基于DRN的故障诊断方法

本文采用DRN网络模型对低压万能式断路器分合闸附件进行故障诊断。故障诊断模型如图2所示，由图2可知，本文所构建的故障诊断模型结构中有1个卷积层及池化层，5个残差块以及1个GAP层。且DRN网络模型各层结构参数如表1所示。

图2 故障诊断模型结构

表1 残差块结构参数

本文故障诊断模型采用APReLU激活函数代替原始的ReLU激活函数，能够更好地适应数据特征，提升网络的性能。并且DRN模型中采用改良版本的残差块，如图3所示，相较于原始残差块，改良版的残差块存在一条直接连着输入输出的路径，能够更加有利于误差在神经网络内部的反向传播，使其参数变得更容易训练。此外本文故障诊断模型采用全局平均池化层(global average pooling，GAP)进行故障分类，由于GAP可以将输入特征压缩成向量，显著降低了网络参数。

图3 残差块类型

2.1 APReLU激活函数

APReLU激活函数的基本原理如图4所示。将输入特征图传播到1个ReLU和1个GAP中，计算1个一维向量来表示正特征的全局信息。同时，将输入的特征映射传播为min(x,0)函数和GAP，计算出另1个一维向量，表示负特征的全局信息。然后，将2个一维向量连接并传播成1个计算路径，其中每个FC层的神经元数等于APReLU输入特征映射的通道数。最后，使用与PReLU相同的函数进行非线性变换，得到输出特征图。

图4 APReLU激活函数基本原理

当人工神经网络采用APReLU激活函数时，由于APReLU激活函数输入特征图和输出特征图尺寸相同，使得其很容易应用在深度神经网络中。

2.2 AMSGrad优化算法

目前，在深度学习领域，网络模型在训练过程中常采用Adam优化算法来保证模型的训练精度，然而Adam优化算法仍存在一些不足之处：一是在模型训练过程中的某些情况下会存在不收敛的问题，原因是随着时间的变化，可能会因数据的大小，导致Adam优化算法的学习率会发生非单调性的震荡变化，最终造成模型不能收敛；二是通过采用Adam优化算法训练的网络模型可能不是全局最优解。

针对以上缺点，本文采用一种改进的Adam优化算法，即AMSGrad优化算法。该算法通过改变二阶动量，使二阶动量随时间发生线性变换，从而保证了AMSGrad中的学习率始终为非负数。

3 故障模拟及其数据集构建

本文使用DW15-1600型低压万能式断路器的实测数据进行分析。分合闸附件结构如图5所示，分闸附件即分励脱扣器结构，主要包括分闸线圈、衔铁、顶杆等结构；合闸附件即释能电磁铁结构，主要包括动铁芯、合闸线圈等结构。分合闸附件故障状态如表2所示。

(a)分励脱扣器结构

表2 分合闸附件故障状态

由于断路器分合闸动作时线圈回路合闸相位的随机性对电流特征具有一定影响。因此，本文模拟0°、30°、60°、90°、120°、150°、180°相位下的各类工作状态，且每种工作状态各采集20组样本，共采集1 260组。设置采样频率为20 kHz，采样时间为100 ms。考虑到线圈电流的特点，采用一维数据作为神经网络的输入会存在数据长度的局限性，存在输入网络模型的数据量不足的问题，导致一维的网络模型感受野不够，在训练过程中无法提取有效特征且容易出现过拟合的现象，所以本文将每组一维电流信号采用信号堆叠的方法转换成为二维的灰度图。即将每组电流信号进行补零操作并依次横向排列成45×45的矩阵，然后将其转化为灰度图像。共转化1 260组灰度图像。由于在转化灰度图的过程中未进行数据运算，从而避免了数据运算后的特征丢失，最大程度保留了原始信号包含的信息，且可以显示更多有效特征。不同相位下正常状态时合闸线圈电流波形及其灰度图如图6所示。从图6可以看出同一状态下，合闸相位不同，线圈电流波形及其灰度图上电流特征存在差异。

图6 不同相位下正常状态时合闸线圈电流波形及其灰度图

4 故障诊断模型的实验分析

本节为了验证所提出故障诊断模型的性能，给出了故障诊断实验以及结果分析。本文编程语言为Python，计算机配置为Intel(R) Core(TM) i5-9400FCPU@2.90 GHz，且显卡型号为NVIDIA GeForce RTX3060。本节各实验batch size均设置为32，epochs均设置为200，均采用AMSGrad优化算法且学习率设置为0.001。

4.1 训练样本比例对故障诊断结果的影响

为了验证训练样本比例对故障诊断结果的影响，本文将1 260组灰度图中不同状态下的各140组灰度图分为训练样本和测试样本，选取其中50%、60%、70%、80%的灰度图样本作为训练样本，其余样本作为测试样本。实验结果如表3所示。

表3 不同训练样本比例实验结果

由表3可以看出，训练样本比例对故障诊断结果具有一定的影响，随着训练样本比例的升高，训练时间逐渐增加且识别率逐渐升高，且当训练样本比例为80%时故障识别率达到了97.89%。此外，本文通过引入混淆矩阵对训练样本比例为80%的实验结果进行分析，如图7所示，除合闸线圈匝数异常变化、衔铁行程不足以及正常分闸之外其余识别率均为100%。所以本文选取训练样本比例为80%的用于故障诊断模型的训练。

图7 训练样本比例为80%实验结果

4.2 灰度图尺寸大小对故障诊断结果的影响

本文采用信号堆叠的方法将一维电流数据转化为二维灰度图像作为网络模型的输入，但转换后的灰度图尺寸的大小对于网络模型的分类准确率以及训练速度有一定的影响，所以本文选用28像素×28像素、64像素×64像素、120像素×120像素、150像素×150像素的图片大小来确定网络模型的最佳分类效果。表4为4种不同尺寸数据集的故障识别实验结果。

表4 不同尺寸数据集的故障识别实验结果

由表4可以看出，当图片尺寸为28像素×28像素时，测试集的故障识别率仅为82.62%，主要由于图片尺寸过小，导致样本包含的信息量较少，无法提取出有效特征。当图片尺寸为120像素×120像素时，其测试集的识别率达到97%以上，当图片尺寸为150像素×150像素时，其测试集的识别率下降到84.13%，主要由于输入尺寸过大导致网络过拟合。同时，由表4可知，随着灰度图尺寸增加，神经网络训练时间延长。所以，本文为兼顾分类准确率和训练速度，选取图片尺寸为120像素×120像素的数据集对模型进行训练。

此外，本文在输入灰度图尺寸为120像素×120像素时采用对t-SNE方法对DRN网络模型输出的特征降至2维进行特征的可视化，结果如图8所示，其中数字0～8对应各类工作状态。从图8可以看出通过层层特征提取，最终经过GAP层后，各类特征能够各自聚集在一起，完成故障分类。说明本文故障诊断模型有较强的特征提取能力。

图8 t-SNE降维可视化结果

5 故障诊断方法对比分析

为了验证DRN网络模型在断路器分合闸附件故障诊断中的性能，采用AlexNet、LeNet5-LSTM进行对比实验。实验结果如表5所示。

表5 不同深度学习算法实验结果

由表5可以看出，以灰度图作为网络模型的输入，其故障分类效果均比以一维电流信号为模型输入的效果好。原因是采用一维数据作为神经网络的输入会由于数据长度的限制，存在输入网络模型的数据量不足的问题，且容易出现过拟合的现象。此外，采用AlexNet以及LeNet5-LSTM的故障识别率仅为94.46%和92.94%，而本文故障诊断算法识别率为97.92%。所以本文故障诊断算法相比于其他故障诊断算法有显著的优势。

6 结束语

本文提出了一种基于深度残差网络的故障诊断算法。并采用灰度图作为网络的输入，能够有效避免一维时序信号样本长度的局限性，且最大程度的保留了原始信号包含的信息。并采用APReLU激活函数以及AMSGrad优化算法进行网络性能的优化。通过对网络模型的可视化分析表明本文所提故障诊断模型有较强的特征提取能力，同时与其他深度学习算法相比，本文构建的网络模型具有更好的故障识别效果，表明该网络模型在分合闸附件故障诊断中具有有效性。