具有充分下降性的改进FR共轭梯度法

马国栋,江羡珍,靳文慧

(广西民族大学数学与物理学院,广西南宁530006)

1 引言

共轭梯度法是求解大规模光滑无约束优化问题min{f(x)|x∈Rn}的有效方法之一,其具有算法结构简单,无需矩阵存储和二次终止性等优点,特别适用于求解大规模优化问题,其迭代公式一般形如

其中gk=∇f(xk),αk为搜索步长,dk为搜索方向,βk为搜索方向dk的调控参数.不同的βk对应不同的共轭梯度法,著名的βk计算公式有:

与上述四个公式相对应的共轭梯度法分别称为HS方法[1]、FR方法[2]、PRP方法[3,4]和DY方法[5].其中,FR方法和DY方法具有良好的收敛性质,而HS方法和PRP方法则数值性能优良.因此,为寻求收敛性和数值效果都理想的方法,基于上述调控参数所建立的共轭梯度法已被广泛研究，且获得很多理论性质和数值效果均优良的改进共轭梯度法[6-14].如,文[9]中的算法改进了DY公式

在标准Wolfe线搜索准则下获得了算法的全局收敛性,且具有较为理想的数值效果.基于文[9]的思想,文[10]修正了FR共轭梯度参数公式

由式(1.4)产生的搜索方向在强Wolfe线搜索准则下满足充分下降条件,然而由此共轭梯度参数公式所建立的算法未能获得全局收敛性.鉴于此,受文[9,10]思想的启发,本文将公式(1.4)进一步修正为：

其中参数u>1.显然,在精确线搜索条件下,且目标函数为严格凸二次函数,则式(1.5)退化为FR共轭梯度参数公式.

本文余下部分组织如下:基于公式(1.5),第二部分建立了算法框架,不依赖于任何线搜索条件,以新公式为方向调控参数所产生的搜索方向总……