加权变异粒子群BP神经网络在遥感影像分类中的应用

2016-12-28 08:48胡永森吴良才付建东
地理空间信息 2016年12期
关键词:林地变异粒子

胡永森,王 力,吴良才,黄 妮,付建东,3

(1.东华理工大学 测绘工程学院,江西 南昌 330013;2.中国科学院遥感与数字地球研究所 遥感科学国家重点实验室,北京100101;3.流域生态与地理环境监测国家测绘地理信息局重点实验室,江西 南昌 330013)

加权变异粒子群BP神经网络在遥感影像分类中的应用

胡永森1,2,3,王 力2,吴良才1,黄 妮2,付建东1,3

(1.东华理工大学 测绘工程学院,江西 南昌 330013;2.中国科学院遥感与数字地球研究所 遥感科学国家重点实验室,北京100101;3.流域生态与地理环境监测国家测绘地理信息局重点实验室,江西 南昌 330013)

在经典的BP神经网络框架支撑下,利用加权变异粒子群算法使神经网络的训练更加科学,同时也更好地发挥了粒子群算法的优点,使其分类效果更加精准。实验后的分类结果表明,与改进之前的BP神经网络相比,总体精度和Kappa系数分别提高了0.108 3和0.138 3;与支持向量机、最大似然及最小距离等分类方法进行了对比,分类效果均优于以上方法。加权变异粒子群BP神经网络不仅可以实现遥感影像的高精度分类,对解决“同谱异物”和“异物同谱”现象也具有一定的作用。

粒子群算法;混合神经网络;加权;变异;分类

遥感图像分类是遥感图像信息处理研究中最基本也是最重要的问题之一,遥感图像分类方法精度的提高直接影响着遥感技术的应用和发展[1-2]。遥感影像的分类技术主要是根据地物反射的电磁波辐射信息在影像上的特征来识别地物的类属及其分布情况[3],而能否快速精确地实现计算机自动分类依靠的是分类算法[4]。在遥感影像分类的算法中,人工神经网络(artificial neural network. ANN)便是其中一种。作为新兴的边缘交叉学科,由于其在处理非线性信息上的优势,以及大规模并行和分布式存储、处理,自组织和自学习的能力而受到越来越多研究人员的青睐[5-12]。在前人研究的基础上,本研究进一步探讨了加权变异粒子群BP神经网络在遥感影像分类中的可行性和精度,该研究为遥感影像的自动分类提供了一种新的思路和方法。

1 加权变异粒子群BP神经网络算法

1.1 加权变异粒子群算法

粒子群的算法主要是针对全局,每一个粒子有自己的位置,粒子越多全局性越强[12-14]。模型的结合主要以神经网络模型为主,在模型参数确定的过程中,首先用粒子群算法去找到全局的最优解,再利用BP神经网络中带有动量因子的梯度下降算法去寻找局部最优解。粒子群发挥的作用主要体现在:粒子群中每个粒子的空间位置数据为神经网络结构中的权值和阈值,粒子群算法计算适应值的过程用神经网络计算误差能量的过程代替,根据误差能量的多少来确定粒子位置的个体最优和全体最优,然后再计算粒子的更新速度。

算法的改进过程为:假设搜索空间是X维的,整个群体中有m个粒子,这些粒子都有自己的位置和速度,例如第k个粒子的位置向量为lk=(lk1,lk2,lk3,…,lkx),k=1,2,3,…,m;速度向量为vk=(vk1,vk2,vk3,…,vkx),k=1,2,3,…,m。假设第k个粒子迭代次数到第t次为止,搜索到的最优位置为pk=(pk1,pk2,pk3,…,pkx),k=1,2,3,…,m。整个群体在第t次搜索到的最优位置为pg=(pg1,pg2,pg3,…,pgx)。在第t次计算后粒子根据公式更新自己的速度,从而来完成位置的更新。则第(t+1)次速度更新公式为:

式中, k=1,2,3,…,m。vk(t+1)表示第k个粒子在t+1次迭代后的速度。

但是,根据对文献的阅读、资料的整理以及不断的实验发现,如果对粒子的初速度加上一个权值,会使粒子的训练结果更加科学,同时为初始速度后面的两个改进量加上一个随机数,使其产生变异,以达到粒子群在庞大的数量优势基础之上增加和维持群体的多样性,使其全局搜索能力更强,产生更优解的概率更大,同时减少早熟收敛的概率。所以在本文的粒子群模型中将速度的更新公式改为:

式中,c0为[0,1]之间的常数;r1、r2为[0,1]上均匀分布的随机数[15],对公式进行加权和变异修正后通过实验发现,训练结果虽然科学和精确了很多,但为了防止搜索过程中产生收敛震荡,对公式再加上一个非负加速常数来改善其收敛速度,即

式中,c1、c2即为非负加速常数为[0,1]上均匀分布的随机数。粒子位置更新公式则为:

式中,xk(t+1)表示第k个粒子在t+1次迭代后的位置。

算法中的速度在更新后有可能会出现不合理的速度量,把速度控制在一个有效的范围内,计算过程中根据经验值规定一个最小、最大速度-vmax、vmax。速度控制的公式为:

1.2 BP神经网络

BP神经网络是多层的感知器神经网络,采用的是误差反向传播学习算法。BP神经网络的结构包括输入层、隐含层、输出层,其中隐含层可以是多个[16]。

BP算法的模型是数据通过输入层输入,与权值和阈值计算,在各个隐含层通过激励函数计算输出,隐含层输出结果再与权值、阈值进行计算,再到输出层激励函数计算,输出计算结果。但是,输出层计算输出的结果要与真值进行比较计算误差,得到的误差根据梯度下降算法进行反向传播,改正各个权值及阈值,最终输出结果在满足最大迭代次数后停止计算或者误差能量小于设定的阈值时停止计算[17]。

1.3 加权变异粒子群算法与BP神经网络的结合

先用加权变异粒子群算法对神经网络模型的参数进行全局优化,使其迅速搜索到局部最优解的位置,再用BP神经网络的梯度下降算法在局部区域搜索解的优势,对全局参数进行局部最优化。

结合的关键是加权变异粒子群算法与BP神经网络的结合。具体的结合方法是首先依据实验选择合适的粒子个数,而每个粒子的初始位置和速度可以随机生成。每个粒子的维度要根据神经网络模型的输入层、输出层和隐含层的神经元个数来确定。每个粒子有且仅有一组神经网络模型计算过程中的权值和阈值参数,然后对每一个粒子进行一次神经网络模型的计算,根据计算结果从中选出最优的粒子作为群体最优,并对结果进行保存。计算出最优粒子后,根据公式(3)初更新每个粒子的速度,再根据公式(4)完成位置的初更新,最终的更新都要根据粒子的速度、位置的最大最小值来完成。首次更新前,粒子个体的初始位置可以看成是个体的最优位置。更新结束后再代入神经网络模型进行计算,重新更新群体最优粒子、个体最优粒子、个体位置和个体速度。对更新后的粒子进行误差能量计算时,误差能量小则适应值大,将此时粒子的位置标记为个体最优,如果误差能量大,则不更新粒子的个体最优位置。循环迭代,直到达到目的为止。具体的流程如图1所示。

图1 模型流程图

2 基于加权变异粒子群BP神经网络的遥感影像分类

2.1 数据源及分析方法

本文采用Landsat TM5多光谱影像作为源数据,该影像共有6个波段,空间分辨率为30 m。影像包含了丰富的地物类型,如林地、草地、耕地、沙地、裸地等。研究中分别采用BP神经网络、加权变异粒子群BP神经网络、最小距离、最大似然、支持向量机等方法对遥感影像进行分类,并通过计算混淆矩阵、总体分类精度和Kappa系数,定量对比分析了各方法的分类精度。影像数据分析采用ArcGIS10.1和ENVI5.1版本的软件,并借助IDL5.3对ENVI5.1进行了二次开发,以满足文中加权变异粒子群算法与神经网络结合后分类的要求,最后利用Excle2013进行精度统计分析。

2.2 不同方法分类结果分析

在原图中可以发现林地和草地之间存在很多“同谱异物”现象,而山谷和山坡阴面的林地由于位置原因在原图中显示为“黑色”,与其他位置的林地存在着明显的“同物异谱”现象(图2a)。分析各分类图结果可以发现(图2b-f),有的分类结果中很多草地被错分成了林地,有的林地则被分成了草地。而加权变异粒子群BP神经网络(图2c)在处理林地和草地之间的“同谱异物”现象时相对于其他方法有着明显的优势。

在“同物异谱”现象中,虽然这些方法都对林地进行了很好的分类,“黑色”林地也被正确分类(图2b~f),为了处理这种情况,使得除了加权变异粒子群BP神经网络之外的方法产生了紊乱,导致误将附近的草地也认为是林地,从而产生错分现象。由于对粒子群算法中的粒子进行了变异,产生了更多更优的解,进一步强化了其处理非线性问题的优势,在处理“同物异谱”和“同谱异物”现象时表现出了较好的效果。

图2 不同分类结果对比图

在其他地物的分类中,从全局来看加权变异粒子群BP神经网络分出的影像孤立点较少,各地物空间上的连续性强、破碎度低。相对于改进前的BP神经网络,在裸地的错分中可以证实这一点,说明改进后的方法对神经网络在寻找最优解时的早熟收敛现象有了很大的改善。而最小距离、最大似然和支持向量机等方法由于地物类别的错分,比如支持向量机在裸地和草地之间的误分(图2f),最大似然在耕地和林地之间的误分(图2e)等虽然是小地块的错分,但导致了影像的最终分类结果破碎度高。

2.3 不同方法分类精度的对比分析

对影像进行分类后,在对应的高分影像上选取一定验证样本对分类结果进行验证,得到各分类方法验证样本的混淆矩阵,如表1~表5所示。

表1 BP神经网络分类混淆矩阵

表2 加权变异粒子群BP神经网络分类混淆矩阵

表3 最小距离分类混淆矩阵

表4 最大似然分类混淆矩阵

表 5 支持向量机分类混淆矩阵

采用总体分类精度和Kappa系数作为分类结果精度的评价标准[18,19],由混淆矩阵可以得出各分类方法的总体精度和Kappa系数,如表6所示。

表6 总体分类精度和Kappa系数

观察各个分类方法的混淆矩阵,加权变异粒子群BP神经网络(表2)中有297个草地验证像元被正确分类,仅有25个像元被错分到了林地;林地验证像元中,415个被正确分类,只有26个其他地物被错分到林地,在各分类方法中均处于最优,再次验证了该方法在处理“同谱异物”和“同物异谱”问题中的优势。

在裸地的分类中,BP神经网络有400个像元被正确分类,剩余142个像元被错分到其他类别;而改进后的加权变异粒子群BP神经网络只有22个像元被错分,其余520个像元均为正确分类,改进效果明显。对比其他几种分类方法在裸地中的分类效果可以发现,最小距离有460个像元被正确分类,最大似然法有500 个像元被正确分类,支持向量机有492个像元被正确分类,虽然效果都不错,但均不如加权变异粒子群BP神经网络精准。

在沙地的分类中,由于沙地的反射率较其他地物有明显差异,故沙地的解译标志明显,光谱特征突出。这种特征提高了加权变异粒子群BP神经网络的学习和分类效率,使得沙地的251个验证像元全部被正确分类,其他地物错分到沙地的像元也较少,仅有5个。BP神经网络、最小距离、最大似然、支持向量机等方法的分类中,不仅沙地验证像元有错分现象,其他地物错分为沙地的像元也较多,分类结果的破碎度也较高。在耕地分类中,加权变异粒子群BP神经网络的混淆矩阵中被错分的像元数目以及其他地物错分到耕地的像元都是较少的,说明该方法的自组织学习能力强于其他方法。

总体来看,改进后的加权变异粒子群BP神经网络模型相比改进前的BP神经网络模型的总体精度和Kappa系数分别高出0.108 3和0.138 3,同时对比最小距离、最大似然、支持向量机等分类方法也具有一定优势。

3 结 语

根据分类的数理统计结果和分类后图像的对比结果可以看出,加权变异粒子群BP神经网络相比其他方法都具有先进性和优势,从对比中可以看出加权变异粒子群BP模型在图像分类中优于最小距离、最大似然及支持向量机等监督分类算法。虽然本文提出的方法总体精度和Kappa系数都很高,但图上仍然有很多错分的现象,如何避免错分并进一步提高分类精度仍需要后续研究[12];同时模型中的参数较多且都为经验值,不能自动化进行,对如何减少人工干预、实现自动化参数设置还需要进一步探讨。

[1] 金亚秋.空间微波遥感数据验证理论与方法[M].北京:科学出版社,2005

[2] 杨红磊.EM算法研究及其遥感分类应用[D].北京:中国地质大学,2009

[3] 罗小波.遥感图像智能分类及其应用[M].北京:电子工业出版社,2011

[4] 杨希.基于神经网络的高分辨率遥感影像分类研究[D].成都:西南交通大学,2009

[5] CARPENTER G A,GROSSBERG S. A Massively Parallel Architecture for a Self-organizing NeuralPattern Recognition Machine [J]. Computer Vision Graphics and Image Processing.1987,37(1):54-115

[6] BAGAN H.Dimension Reduction of Self-organized Neural NetWork Classification for Multi-Band Satellite Data[J].Editorial Board of Geomatics and Information Science of Wuhan University,2004,29(5):461-465

[7] 卢柳叶,张青峰,李光录.基于BP神经网络的遥感影像分类研究[J].测绘科学,2012,37(6):140-143

[8] 刘旭升,张晓丽.基于BP神经网络的森林植被遥感分类研究[J].林业资源管理,2005(1):51-54

[9] 毛健,赵红东,姚婧婧.人工神经网络的发展及应用[J].电子设计工程,2011,19(24):62-65

[10] 卜晓波,龚珍,黎华,等.基于遗传算法改进BP神经网络的遥感影像分类研究[J].安徽农业科学,2013,41(33):13 056-13 058

[11] 徐小慧,张安,端木京顺,等.基于粒子群分类器的遥感图像目标识别[J].红外激光工程,2007,36(4):551-554

[12] KRINK T,VESTERSTROM JS,RIGET J.Particle Swarm Optimization with Spatial Extension[C]//Procccdings of the 2002 Congress on Evolutionary Computation.Piscataway:NJ IEEE Press ,2002

[13] 刘衍民.粒子群算法的研究及应用[D].济南:山东师范大学,2011

[14] 尹淑玲,舒宁,刘新华.基于自适应遗传算法和改进BP算法的遥感影像分类[J]. 武汉大学学报(信息科学版),2007,32(3):201-204

[15] 卢柳叶,张青峰,李光录.基于BP神经网络的遥感影像分类研究[J].测绘科学,2012,37(6):140-143

[16] 刘天舒. BP神经网络的改进研究及应用[D].哈尔滨:东北农业大学,2011

[17] 刘旭拢,何春阳,潘耀忠,等.遥感图像分类精度的点、群样本检验与评估[J].遥感学报,2006,10(3):366-372

[18] 郑明国,蔡强国,秦明周,等.一种遥感分类精度检验的新方法[J].遥感学报,2006,10(1):39-48

[19] 董元,王勇,易克初.粒子群优化算法发展综述[J].商洛学院学报,2006,20(4):28-33

P237

B

1672-4623(2016)12-0037-04

10.3969/j.issn.1672-4623.2016.12.013

胡永森,硕士研究生,主要是从事资源遥感研究。

2016-09-08。

项目来源:国家科技重大专项资助项目(14CNIC-032079-32-02);国家高技术研究发展计划资助项目(2014AA06A511);国家自然科学基金资助项目(41371358)。

猜你喜欢
林地变异粒子
碘-125粒子调控微小RNA-193b-5p抑制胃癌的增殖和侵袭
变异危机
基于膜计算粒子群优化的FastSLAM算法改进
变异
Conduit necrosis following esophagectomy:An up-to-date literature review
基于粒子群优化极点配置的空燃比输出反馈控制
丹东市林地分类研究
浅谈林地保护及恢复措施
变异的蚊子
林地流转模式的选择机理及其政策启示