一个共轭梯度优化方法及其在工程中的应用*

黄玲花

(广西财经学院 信息与统计学院，广西 南宁　530003)



一个共轭梯度优化方法及其在工程中的应用*

黄玲花

(广西财经学院 信息与统计学院，广西 南宁530003)

给出一个三项共轭梯度方法，该方法具有如下特点：1)搜索方向在不需要任何线搜索的条件下具有充分下降性；2)搜索方向具有自动属于一个信赖域的特点；3)新方法不但拥有梯度值信息还拥有函数值信息；4)方法对一般函数拥有全局收敛性.数值检验结果表明新方法更具竞争性.

共轭梯度；充分下降；收敛性

0　引言

(1)

其中f(x):Rn→R是连续可微函数.无约束最优化问题来源于众多实际问题，具有广泛的应用背景，此问题的求解方法有很多种：牛顿法、拟牛顿法、信赖域方法和共轭梯度法等等，这些优化方法能为求解其他优化问题提供强有力的理论支持.共轭梯度方法具有结构简单、计算机存储量小和高效率的特点，因而被广泛应用.该方法的迭代公式是：xk+1=xk+αkdk,k=0, 1, 2,…

其中xk称为第k次迭代点，αk>0是由线搜索产生的步长，dk是搜索方向，定义形式为

(2)

其中gk=▽f(xk)和gk+1=▽f(xk+1)是函数f(x)在xk和xk+1的梯度值，‖·‖表示欧式向量范数.该方法数值表现优越特别适合大规模优化问题，也常常被人们用于实际的问题中，是研究最为热门的共轭梯度公式之一.但是PRP方法的收敛性不理想，对于一般函数在弱Wolfe-Powell线搜索下的全局收敛性一直没有得到证明，是一个开放的问题.鉴于此，许多学者希望发现数值表现能与PRP相媲美同时收敛性质又比它优越的方法，许多成……