改进极限学习机应用于电网故障诊断

2015-11-17 04:34夏威张麟袁秋实陈国新马松涛刘涌李皓岩
电网与清洁能源 2015年4期
关键词:学习机人工神经网络权值

夏威,张麟,袁秋实,陈国新,马松涛,刘涌,李皓岩

(1.国网上海浦东供电公司,上海200122;2.上海博英信息科技有限公司,上海200240)

改进极限学习机应用于电网故障诊断

夏威1,张麟1,袁秋实2,陈国新1,马松涛2,刘涌2,李皓岩2

(1.国网上海浦东供电公司,上海200122;2.上海博英信息科技有限公司,上海200240)

电网故障的诊断过程很难用传统的数学方法描述,基于人工智能技术的专家系统、神经网络[1]、遗传算法、Petri网络以及模糊理论等诊断方法在20世纪80年代初被引入电网故障诊断领域,并得到了广泛应用。这些诊断方法基于准确的故障信息可以得到令人满意的诊断结果,但在容错能力方面存在一定的局限性,即当实时故障信息不完备或发生畸变时诊断可能失败。

极限学习机是由新加坡南洋理工大学黄广斌教授2004年提出的一种新型神经网络,近年来在许多领域得到了广泛应用。极限学习机随机的选择隐含节点参数(包括输入权值和偏差)并且分析判断单隐层前馈神经网络(SLFN)的输出权值。这样,当达到最小训练误差时,训练的负担可以明显地减少。它是一种简单易用、有效的单隐层前馈神经网络学习算法,不仅具有数学模型简单、学习速度快的特点,而且具有良好的泛化性能,目前已被成功应用于手写字体识别、气象预测、语音及图像识别等领域。本文采用改进极限学习机作为电网故障识别的分类器,旨在利用其不确定性处理能力,解决保护动作信息不完备和存在错误信息时的电网故障诊断问题。

1 BP人工神经网络

人工神经网络的形式不一,其决定性因素是系统特点、网络拓扑结构、神经元传递函数和学习算法。根据其结构的不同,可分为前馈网络(如BP网络)和反馈网络(如Hopfield网络);根据状态方式可分为离散型网络(如离散型Hopfield网络)和连续性网络(如连续性Hopfield网络);在学习方式方面又可分为监督学习网络(如BP,RBF网络)和无监督学习网络(如自组织网络)[2]。其中BP模型由于其能够系统地解决多层网络中隐单元层连接权的学习问题而成为人工神经网络重要模型之一,并得到了广泛的应用。

输入层、隐含层和输出层是BP人工神经网络的组成部分。BP神经网络通过一边向后传递误差,一边修正误差的方法来不断调节网络参数(权值和阈值),以实现或逼近所希望的输入输出映射关系。

输入层的各神经元主要职责是把接收来的外界输入信息传递给中间层各神经元;而负责信息变换的中间层,则根据信息变化能力的需求,可设计为多隐层或单隐层结构,来对内部信息进行处理;输出层接收最后一个隐含层的每个神经元发出的信息,经过进一步分析处理,完成一次信息的正向传播处理过程,并把信息处理结果传递到外界。如果实际输出与期望输出不符,则进入误差的反向传播阶段。误差通过输出层,以误差梯度下降的方式修正每一层的权值,向隐层、输入层逐层反传。周而复始误差反向传播和信息正向传播过程,其实质是每层权值不断调整和神经网络学习训练的过程,该过程一直进行到网络输出的误差减少到允许的范围内,或者预先设定的学习次数为止。BP人工神经网络的结构如图1所示[3-4]。

图1 BP人工神经网络结构Fig.1 BP artificial neural network structure

其中,o1,o2,…,ok,…,ol是BP神经网络的预测值;x0,x1,…,xj,…,xn是神经网络用来训练的输入值;vij是BP输入层和隐含层之间的连接权值;wjk是隐含层和输出层之间的连接权值,i=1,2,…,n,j=1,2,…,m,k=1,2,…,l。如果输入节点数为n,输出节点数为l,BP神经网络就表达了从n个自变量到l个因变量的函数映射关系。该网络通过最先进行的网络训练使其具有联想记忆和预测能力。

BP神经网络作为电网故障识别的分类器,针对不确定性问题的处理能力有所欠缺,无法解决保护动作信息不完备和存在错误信息时的电网故障诊断问题。本文将改进极限学习机提出并应用于电网故障诊断。

2 改进极限学习机(IELM)

极限学习机是一种简单易用、有效的单隐层前馈神经网络(SLFNs)学习算法[5]。其基本思想为:训练前设置合适的隐含层节点数,在执行过程中只需要为输入权值和隐含层偏置随机赋值,整个过程一次完成,无需迭代,并且产生唯一的最优解。传统的神经网络学习算法(如BP神经网络)需要人为设置大量的网络训练参数,并且很容易产生局部最优解,而极限学习机只需要设置网络的隐含层节点个数,在算法执行过程中不需要调整网络的输入权值以及隐元的偏置,并且产生唯一的最优解,因此具有学习速度快且泛化性能好的优点。

一个单隐层前馈神经网络SLFN包括3层:输入层、隐含层和输出层。其模型如图2所示。

图2 单隐层SLFN结构Fig.2 Single hidden layer feed forward neural networks SLFN

假设训练数据组的样本个数为n,SLFN有l层隐含节点,用sigmoid函数作为激活函数,则其输出函数:

ELM完全不同于传统的迭代学习算法,因为它随机选取输入权值向量w和隐含层的偏差b,并且能利用最小二乘法分析计算输出权值β。在这种情况下,仍然可以用更好的概括性能来减小训练误差[6]。根据ELM理论,式(1)可简化为:

对一个训练数据集合,给定激活函数和隐含层节点数,其归一化处理和BP神经网络作一样的处理,ELM算法可总结为以下3个主要的步骤:

1)随机产生输入权值向量wj和bj,1≤j≤l

2)计算隐含层输出矩阵H

3)计算输出权值矩阵β=H-1T

H-1是H的广义逆矩阵。

计算H-1的广义逆矩阵的方法有多种,其中奇异值分解由于其普遍性而被认为是最合适的方法。相比于传统的人工神经网络(ANN)算法,ELM算法在训练过程中不需要调整网络的输入权值,因此其训练速度可以快几千倍。与此同时,它不仅能达到最小训练误差‖Hβ-T‖,并且输出权值‖β‖的范数最小,根据ANN理论,当前馈神经网络达到最小训练误差时,权值的范数越小,网络就趋向于有越好的泛化能力。ELM另一个重要的优点是它高效的调节机制:当给定激活函数并且只有隐含层节点数需要调节时,可以通过线性验证获得。相比于传统算法,ELM算法克服了类似于学习速率很难确定和容易陷入局部最优等缺点,并且具有很高的计算速度[7-10]。

传统的ELM基于经验风险最小化原则,它是利用训练误差最小的衡量准则,这种方法缺陷在于会产生过拟合问题,使得模型的推广能力下降。由统计学理论可知,实际风险包括经验风险和结构风险2种,一个具有较好泛化性能的模型应该能合理的权衡这2种风险,并取得最佳折中。为此本文在基于经验风险最小化的ELM基础上,引入结构风险最小化原理,提出一种改进的ELM模型。

3 基于改进极限学习机的电网故障诊断算法

在故障诊断中,可以利用分层、省略无关元件等方法对电网进行简化,以最大限度地去除冗余信息,提高故障诊断效率。故障决策表是各种诊断方法的数据源,常用作为故障判别的依据。在表1所示的决策表中,a、b、c为条件属性,d为决策属性。根据极限学习机的训练要求,可以将a、b、c作为极限学习机的输入量,将d作为输出量进行训练,输入函数的定义域范围为[0,1],输出函数值域为[0,1]。训练若干个样本后,效果达到要求,即可停止训练。

表1 决策表举例Tab.1 Decision table

根据故障决策表举例内容列举配电网线路的决策表,用来验证算法的故障分类效果。改进极限学习机算法和BP神经网络算法极为相似,在参数初始化和分类速度方面极限学习机更具有优势,下面通过实验对比二者的优劣。

4 实验设置及结果

4.1 实验过程

图3为一简单配电系统,分为5个区域(Sec1~Sec5),均配有过流保护(CO1~CO5);Sec1和Sec3配有距离保护(RR1、RR3)。针对图3所示模型,首先选取相应的故障决策表,分别应用改进极限学习机和BP神经网络对提供的故障样本进行训练[11-12]。

图3 电网仿真示意图Fig.3 Schematic diagram of power system simulation

电网模型对应的故障决策表见表2,共12组训练样本。表中有QF1~CO5共12个条件属性,因此定义输入变量为12个,神经网络层数为3;输出神经元个数为6,对应5个故障区域和1个无故障结果;隐含层神经元个数取30。训练结果列于表3。

表4给出了含有保护装置误动信息的7个故障样本。对照表2可知,样本1和样本7是断路器误动,样本2是过流保护装置误动,样本3~6是断路器拒动。表5为BP神经网络和改进极限学习机对这些样本的诊断结果。表3和表5中BPANN代表BP神经网络算法,IELM代表改进极限学习机算法。

4.2 结果分析

从训练结果和训练时间来看,改进极限学习机相比BP神经网络具有较好的分类效果,更重要的是节省大量的故障分类时间,使得故障抢修工作以最快速度完成。从训练过程来看,改进极限学习机需要更简化的训练模式,初始化参数较少,对分类结果影响更小。

表2 故障决策表Tab.2 Fault decision table

表3 BP神经网络与改进极限学习机训练结果Tab.3 BP neural network and improved extreme learning machine training results

故障数据采集避免不了有一些错误数据,例如开关量和保护措施的误动作,使得采样样本出现错误的信息。但是通过实验数据表明改进极限学习机在容错性方面要强于BP神经网络算法。主要表现在:表5中改进极限学习机可以识别所有的故障,而BP神经网络智能识别故障样本3。

5 结语

本文用BP神经网络和改进极限学习机(IELM)分别对7种故障类型进行诊断,相较于BP模型,IELM模型需要较多的隐含层节点数,但是在各自的最好故障诊断效果下,IELM故障诊断能力比BP模型要高很多,并且其速度比BP高很多。而在参数初始化方面IELM受影响程度很小,BP神经网络可能因为权重和阈值初始化不合适造成无法进行故障诊断。通过分析比较,IELM对于故障诊断来说精度高,速度快,能够进行多种故障类型的在线精确预测,具有广泛的应用前景。

表4 故障样本对应的故障信息Tab.4 The corresponding fault information of fault samples

表5 BP神经网络与改进极限学习机诊断结果Tab.5 BP neural network and improved extreme learning machine diagnosis results

[1]韩立群.人工神经网络[M].北京:北京邮电大学出版社,2006.

[2]侯瑞.人工神经网络BP算法简介及应用[J].科技信息,2011(3):75-79.

HOU Rui.Introduction and application of BP algorithm for artificial neural network[J].Science&Technology Information,2011(3):75-79(in Chinese).

[3]KARAYIANNIS N B,PURUSHOTHAMAN G.Fuzzy pattern classification using feed forward neural networks with multilevel hidden neurons[J].IEEE International on Neural Networks,1994,5(2):127-132.

[4]LEONARD J.Improvement of back propagation for training neural network[J].Computer Engineering,1990,14(3):337-340.

[5]HUANG G B,ZHU Q Y.Extreme learning machine:a new learning scheme of feed forward neural networks[C]//in:Proceedings of International Joint Conference on Neural Networks(IJCNN2004),25-29 July,2004,Budapest,Hungary.

[6]HUANG G B,ZHU Q Y,SIEW C K.Extreme learning machine:theory and applications[J].Neurocomputing,70(1-3):489-501.

[7]严泰山.神经网络BP算法研究及其在工业检测中的应用[D].桂林:广西师范大学,2001.

[8]华晨辉,杨仲江,罗骕翾,等.基于BP神经网络的普通建筑雷灾风险评估[J].电瓷避雷器,2014(5):60-65.

HUA Chenhui,YANG Zhongjiang,LUO Suxuan,et al.Risk assessment method of lightning disaster about ordinary buildings based on the BP neural network process[J].Insulators and Surge Arresters,2014(5):60-65(in Chinese).

[9]李德超.一种基于BP神经网络的快速谐波分析算法研究[J].电瓷避雷器,2014(6):67-71.

LI Dechao.Study of fast harmonic analysis algorithm based on BP neural network[J].Insulators and Surge Arresters,2014(6):67-71(in Chinese).

[10]岑文辉,戴文样,仇新宏.人神经网络的电力系统故障诊断[M]//南京:全国高校电自专业第八届学术年会论文集,1992.

[11]刘超,何正友,杨健维.基于量子神经网络的电网故障诊断算法,电网技术[J].2008,32(9):56-59.

LIU Chao,HE Zhengyou,YANG Jianwei.A quantum neural network based fault diagnosis algorithm for power grid[J].Power System Technology,2008,32(9):56-59(in Chinese).

[12]高小刚,张自力,刘立刚,等.基于ATP-EMTP的直流输电线路反击特性研究[J].电瓷避雷器,2014(3):102-106.

GAO Xiaogang,ZHANG Zili,LIU Ligang,et al.The research on back striking characteristics of HVDC power transmission line based on ATP-EMTP[J].Insulators and Surge Arresters,2014(4):102-106(in Chinese).

(编辑 董小兵)

Improved Extreme Learning Machine Applied in Power System Fault Diagnosis

XIA Wei1,ZHANG Lin1,YUAN Qiushi2,CHEN Guoxin1,MA Songtao2,LIU Yong2,LI Haoyan2
(1.State Grid Shanghai Pudong Electric Power Supply Company,Shanghai 200122,China;2.Shanghai Proinvent Information Technology Co.,Ltd.,Shanghai 200240,China)

电网故障诊断中交叉数据模式识别问题占据重要位置,传统的人工智能方法处理效果不甚理想。提出运用改进极限学习机进行故障诊断的算法,随机选取输入权值向量和隐含层的偏差,并且利用最小二乘法分析计算输出权值,以达到提高故障诊断容错性的目的。仿真结果表明:在保护动作信息不完备的情况下,该算法的故障判断准确性明显优于BP神经网络,该算法对存在一定错误数据的故障信息也具有良好的识别能力。

改进极限学习机;故障诊断;BP神经网络

The cross data pattern recognition plays a very important role in the fault diagnosis in the power grid,but the effect of the traditional artificial intelligence method is limited. This paper proposes that the improved extreme learning machine be used for fault diagnosis,the input weight vector and the deviation of the hidden layer be randomly selected,and the output value be calculated and analyzed by using least square method in order to improve the fault toleration.The simulation results show that,in the condition of incomplete protection action information,the accuracy of the fault judgment algorithm of is better than BP neural network.In addition,the algorithm has better recognition ability for the fault information containing certain error data.

improved extreme learning machine;fault diagnosis;BP neural network

1674-3814(2015)04-0015-05

TM744;TP13

A

2014-12-03。

夏威(1987—),男,硕士,工程师,主要从事电网调控专业工作。

猜你喜欢
学习机人工神经网络权值
一种融合时间权值和用户行为序列的电影推荐模型
CONTENTS
利用人工神经网络快速计算木星系磁坐标
人工神经网络实现简单字母的识别
极限学习机综述
滑动电接触摩擦力的BP与RBF人工神经网络建模
基于极限学习机参数迁移的域适应算法
分层极限学习机在滚动轴承故障诊断中的应用
基于权值动量的RBM加速学习算法研究
基于多维度特征权值动态更新的用户推荐模型研究