基于RMSprop的粒子群优化算法

张天泽，李元香，项正龙，李梦莹

(武汉大学 计算机学院，湖北 武汉 430072)

0 引 言

粒子群算法(particle swarm optimization，PSO)[1]是由Kennedy和Eberhart提出的一种结构简单、收敛速度快的进化算法。在粒子群算法中，每个解都表示为种群的一个飞行粒子，根据历史最优和全局最优更新当前位置。粒子群算法的优点在于收敛速度快、寻优能力强、算法简单易实现。但粒子群算法容易出现收敛过早、陷入局部最优的现象。为了解决此缺点，近些年学者提出了很多改进思想。一类是融合其它算法提高，利用其它算法的优势提高其寻优能力。文献[2]中将分群策略、混沌优化算法与粒子群算法结合，改善了算法易陷入早熟的问题。文献[3]中将基于PID控制器的控制理论思想和粒子群算法结合，能够让粒子群算法在收敛中调整搜索方向以摆脱局部最优。另一类是改进算法本身，文献[4]提出基于近邻粒子交流的粒子群算法；文献[5]提出了基于自适应高斯分布的简化粒子群算法，使用自适应调节策略强化局部搜索能力；文献[6]提出了自适应惯性权重的粒子群优化算法，利用粒子聚集度、迭代次数来动态改变惯性权重，以此来平衡局部寻优能力和全局寻优能力；文献[7]提出了改进后的自适应惯性权重粒子群算法，利用神经网络中神经元的非线性函数建立数学模型，提高了算法的稳定性和收敛速度；文献[8]将混沌优化算法和粒子群算法结合，提出了一种在搜索过程中动态修正的混沌动态权值粒子群优化算法。……