一个修改的HS共轭梯度算法及其收敛性

吴 庆 军

(玉林师范学院, 数学与信息科学学院, 广西 玉林 537000)



一个修改的HS共轭梯度算法及其收敛性

吴 庆 军*

(玉林师范学院, 数学与信息科学学院, 广西 玉林 537000)

给出一个修改的HS共轭梯度方法,该方法能保证参数βk非负且搜索方向在不需要任何线搜索下具有充分下降性.在适当条件下证明此方法对一般目标函数具有全局收敛性,同时给出数值检验结果.

共轭梯度; 充分下降; 全局收敛性

求解问题

minf(x),x∈Rn,

(1)

其中,f(x)连续可微.共轭梯度法首先由Hestence和Stiefel[1]提出用来求解线性方程组问题,后来被推广到用于求解非线性问题,此类方法因具有结构简单且求解效果较好等优点而被广泛应用.该方法的迭代公式是

xk+1=xk+αkdk,k=0, 1, 2, …

xk是第k次迭代点,αk>0是步长,dk是具有下面定义形式的搜索方向

(2)

其中,βk∈R是参数,根据βk的选取不同而称为不同的共轭梯度法.下面给出著名的PRP和HS共轭梯度方法中βk的定义:

其中,gk=f(xk)和gk+1=f(xk+1),分别表示函数f(x)在xk和xk+1的梯度值,‖.‖是欧氏向量范数.PRP和HS的数值表现比较优越但收敛性不理想,PRP方法的数值表现更为理想,常常被人们用于实际问题求解.许多学者都希望找到数值表现可与PRP相媲美同时性质又比其好的方法(见文献[4 -14] 等).Yuan[11]给出了一个修改的PRP公式:

(3)

Wei等[10]也给出一个新的共轭梯度公式:

(4)

此公式能克服原PRP公式参数可能为负数的缺陷.结合上面两个公式,给出一个新的共轭梯度公式:

(5)

1算法

算法1(修改的HS共轭梯度算法)

步骤0 给定x0∈Rn,δ∈(0, 1/2),σ∈(δ, 1) 和终止参数ε>0.令d0=-g0=-f(x0),置k∶=0.

步骤1 若‖gk‖ ≤ε,停止.

步骤2 利用下面的WWP线搜索技术寻找……