Wolfe线搜索下两种修正DY共轭梯度法的全局收敛性

提出了两个修正的DY(Dai-Yuan)共轭梯度法(ZDY1算法和ZDY2算法),并证明这两个修正的共轭梯度法公式β(1)k和β(2)k在Wolfe下都是全局收敛的,其中一个在Wolfe线搜索下是下降的,另一个在不依赖于任何线搜索下充分下降。在求解大规模的非线性优化问题的过程中,这些结果对加快算法的收敛速度和增强算法的收敛性提供了理论依据。
     

Wolfe线搜索下谱共轭梯度法全局收敛的一个充分条件

对Wolfe线搜索下谱共轭梯度法的全局收敛的充分条件进行了研究。首先在假设下降条件成立的前提下,找出使dTkgk≤βkdTk-1gk-1成立的一个条件;然后提出并证明了一般假设下谱共轭梯度法全局收敛的一个充分条件;最后,分析了充分条件的优越性并给出了两个推论。     

一种新的修正Liu-Storey共轭梯度法的全局收敛性(英文)

在Liu-Storey(LS)公式的基础上给出了一个修正的共轭梯度公式β_k~(MLS).证明了该新公式在Wolfe-Powell线搜索下,甚至在强Wolfe-Powell线搜索下,在满足σ∈(0,1/2)的同时,新算法具有充分下降性和全局收敛性.数值结果展现了算法的可行性.     

具有充分下降性的修正型混合共轭梯度法

基于已有的共轭梯度法思想,分别对两种混合共轭梯度法的搜索方向进行修正,使得新的修正型混合共轭梯度法在每步迭代都不依赖于任何线搜索而自行产生充分下降方向。在适当的条件下,证明了新算法在Wolfe线搜索下的全局收敛性。数值实验表明该方法是有效的。     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。     

几个修正的DY共轭梯度法

共轭梯度法是求解无约束优化问题的一个非常有用的方法,特别是解决大规模问题,经典的DY法在Wolfe线搜索下就能保证下降性和全局收敛性.本文提出了四个修正的DY法,其中两种方法在Wolfe线搜索下具有下降性与全局收敛性;另两种方法不依赖线搜索具有充分下降性,在Wolfe线搜索下对一般函数具有全局收敛性.     

一种修正的DY共轭梯度法及全局收敛性

为寻求同时具有良好的收敛性和数值表现的共轭梯度法,在Wolfe线搜索下,构造一种修正的DY共轭梯度法.该算法产生的搜索方向为充分下降方向,这一性质与所采用的线搜索方法无关.在Wolfe线搜索的条件下证明该算法具全局收敛性.研究结果表明:算法是有效的,尤其对大规模无约束优化问题.     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。
     

一类求解无约束问题的混合参数共轭梯度法及全局收敛性

提出一类混合参数共轭梯度法,在步长满足Wolfe线搜索的条件下,算法产生的搜索方向是下降方向.在适当的条件下,算法是全局收敛的.     

一个新的PRP共轭梯度法的全局收敛性

提出了一个不依赖线搜索且具有充分下降性的新的共轭梯度法(ZPRP法),并证明了ZPRP方法在强Wolfe搜索条件下全局收敛.     

一种含参数的修正HS共轭梯度法及其收敛性

提出了一种含参数的修正HS共轭梯度法,该算法具有性质:1参数βBHSk不仅具有梯度值的信息还具有函数值的信息;2参数βBHSk是非负的;3其产生的搜索方向是充分下降的。在合适的条件下,证明了该算法在弱的Wolfe线搜索下具有全局收敛性,数值结果证明了该算法对于求解无约束优化问题的有效性。     

共轭梯度法在广义Wolfe搜索下的全局收敛性

给出共轭梯度法在广义Wolfe线搜索下的全局收敛结果，同时对βk的取值进行拓广，使共轭梯度法的应用范围更加广泛。     

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

一类改进的谱共轭梯度法

谱共轭梯度法是在共轭梯度法基础上发展起来的新型算法,其特点是有两个方向控制 参数,是解决大规模无约束优化问题的有效方法,也是优化工作者研究的热点。本文基于已有的 非线性谱共轭梯度法提出了一类新的谱共轭梯度法,利用新构造的共轭方向调控参数βk构建了新 的算法,并保证了该算法在任何线搜索下都满足共轭条件,进而在迭代时产生的搜索方向都是充 分下降的。在Wolfe线搜索下,该方法的全局收敛性得以验证。     

一种充分下降的共轭梯度法

在Dai-Liao共轭梯度法的基础上,提出了一种修正的共轭梯度法,该算法在强Wolfe线性搜索和精确线性搜索下具有充分下降性.同时,在确定步长的过程中,如果出现某个步长很小,则该算法的搜索方向会自动的接近当前迭代点的负梯度方向.     

非精确线性搜索的Wolfe搜索下的新共轭梯度法

给出了一个计算βk的新公式,得到新共轭梯度法,证明了在非精确线性搜索的Wolfe搜索下新共轭梯度法是收敛的．     

一类修正DY共轭梯度法及其全局收敛性

对DY共轭梯度方法进行修正,使得修正的共轭梯度方法(MDY*)在Wolfe线搜索下满足充分下降条件和全局收敛性.     

一类新合成的共轭梯度算法

结合已有修正的DY共轭梯度方法和修正的HS共轭梯度方法的优点,提出了一种求解无约束优化问题的新共轭梯度方法,证明了该算法具有全局收敛性,同时还证明了该算法在强Wolfe线搜索下具有充分下降性。     

一类新的混合共轭梯度算法

共轭梯度算法在无约束最优化问题中有着广泛应用.现给出的一类新的共轭梯度算法,在迭代过程中保持了下降性质;在一般Wolfe线搜索条件下,新算法是全局收敛的.     

修正LS谱共轭梯度法及其收敛性

提出一个无约束优化问题的修正LS谱共轭梯度法,在Wolfe线搜索下算法具有下降性和全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题．