一种三项CD共轭梯度法及其全局收敛性

在前人提出的三项PRP共轭梯度法的基础上,提出了一种三项CD共轭梯度法.与以往求解无约束优化问题的经典二项共轭梯度法不同,该算法的搜索方向是三项的,且在任何线性搜索下都具有充分下降性.在适当的条件下,证明了三项CD共轭梯度法在强Wolfe线性搜索下具有全局收敛性.     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。
     

一种混合的共轭梯度法

共轭梯度法是求解大规模无约束问题的一种有效方法.针对算法的优劣主要依赖于步长因子和搜索方向的特点,结合共轭梯度法的共轭性质,提出一种改进的可以控制步长因子的混合的HS-DY共轭梯度法.数值试验表明算法具有良好的收敛性和有效性.     

一类充分下降的谱共轭梯度法

首先基于共轭梯度法的共轭条件和下降性,提出了一类充分下降的谱共轭梯度法.该方法将经典共轭梯度法中搜索方向由原来的只满足一个共轭条件改变为同时满足一个共轭条件和一个下降条件;然后,在Wolfe线搜索下用反证法证明了新算法的全局收敛性;最后,通过12个算例,将新算法和已有SHS算法在迭代次数和计算时间方面进行了数值比较实验,比较结果表明新算法在这两个方面都明显优越于SHS算法.算法的全局收敛性和数值结果的优越性表明,新算法是一个值得研究的方法.     

非线性无约束优化问题的新共轭梯度法

在DY共轭梯度法的基础上,给出一个新的共轭梯度法公式,在精确线搜索下该公式等价于DY公式.建立了基于新参数公式并采用Wolfe线搜索的共轭梯度算法,证明了算法满足下降性和具有全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题.     

MWWP线搜索下的新共轭梯度法

随着计算机技术的革新和生产生活中大规模无约束优化问题的涌出,为寻求高效快速的方法,本文构造新共轭梯度算法.将一种修正弱Wolfe-Powell线搜索称为MWWP线搜索,使其与具有良好的充分下降性的DPRP共轭梯度法相结合,证明了该算法在新型线搜索下的全局收敛性,并将该算法与传统共轭梯度法进行了数值实验对比,数值实验结果表明了新方法是有效可行的.     

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

一类改进的谱共轭梯度法

谱共轭梯度法是在共轭梯度法基础上发展起来的新型算法,其特点是有两个方向控制 参数,是解决大规模无约束优化问题的有效方法,也是优化工作者研究的热点。本文基于已有的 非线性谱共轭梯度法提出了一类新的谱共轭梯度法,利用新构造的共轭方向调控参数βk构建了新 的算法,并保证了该算法在任何线搜索下都满足共轭条件,进而在迭代时产生的搜索方向都是充 分下降的。在Wolfe线搜索下,该方法的全局收敛性得以验证。     

一种求解无约束优化问题的共轭梯度法

共轭梯度法是求解大规模无约束问题的一种有效方法,本文针对算法的优劣主要依赖于步长因子和搜索方向的特点,结合共轭梯度法的共轭性质,在HS方法和DY方法的基础上,提出了一种混合共轭梯度法,并证明了全局收敛性.     

一种修正的DY共轭梯度法及全局收敛性

为寻求同时具有良好的收敛性和数值表现的共轭梯度法,在Wolfe线搜索下,构造一种修正的DY共轭梯度法.该算法产生的搜索方向为充分下降方向,这一性质与所采用的线搜索方法无关.在Wolfe线搜索的条件下证明该算法具全局收敛性.研究结果表明:算法是有效的,尤其对大规模无约束优化问题.     

一类混合HS和DY共轭梯度法及其全局收敛性

为了寻找同时具有良好的收敛性和数值效果的共轭梯度法.本文将HS方法和DY方法结合,选用Wolfe线搜索,构造出了一类新的混合共轭梯度法.并在Wolfe线搜索的条件下证明了该算法全局收敛性.对新算法进行数值实验,并与HS方法和DY方法的数值结果进行了比较,结果表明新算法是有效的.     

修正的HS共轭梯度算法的全局收敛性

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性.数值试验结果表明,新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效.     

一类混合CD-LS共轭梯度法的全局收敛性

为了寻找同时具有良好的收敛性和数值表现的共轭梯度法.将CD方法和LS方法结合,选用推广的Wolfe线搜索,构造出一类新的混合共轭梯度法.新的混合共轭梯度法不需要限制推广的Wolfe线搜索条件中的参数,但得到的下降性与CD法一致,具有比CD方法更好的收敛性,并具有全局收敛性.对新算法进行数值试验,通过与CD法和LS法的数值结果进行比较,表明新算法是可行的,尤其对大规模无约束优化问题.     

基于神经网络控制的共轭梯度法

共轭梯度法中搜索步长是通过某种搜索策略得到,许多情况下的收敛速度较慢.为了加快其收敛速度,提出了通过引入具有“先验知识“的神经网络对共轭梯度算法中的搜索步长进行控制.实验结果表明,该模型实现的共轭梯度法对于加快收敛速度有效.     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

结合广义Armijo步长搜索的一类记忆梯度算法

给定记忆梯度算法搜索方向中的参数一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能得到目标函数的充分下降方向,由此提出一类新的记忆梯度算法.在去掉迭代点列有界和广义Arm ijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Arm ijo线搜索下的共轭梯度法FR、PR、HS和记忆梯度法更稳定、更有效.     

一种修正PRP共轭梯度法的全局收敛性

PRP共轭梯度法是众多求解无约束优化问题的共轭梯度法中数值效果表现最好的算法之一.提出一种修正的PRP共轭梯度法,该算法始终产生充分下降方向,并且该充分下降性的产生不依赖于任何线搜索.在一定的条件下,证明了该算法在Armijo型线搜索下求解无约束优化问题时具有全局收敛性.最后,给出了相应的数值结果,证明了该算法的有效性.     

一种新线性搜索下的共轭梯度法

文章给出了一种新的非精确线性搜索下的共轭梯度法,说明了在新线性搜索下每次迭代能够产生下降方向.证明了新线搜索下FR共轭梯度算法的全局收敛性.     

求解无约束优化问题的一类谱共轭梯度法

针对无约束优化问题,提出一类谱共轭梯度法.谱共轭梯度法是对TS、GN及MPRP方法的修正,使得在任何线性搜索条件下都具有充分下降性.并且在Armijo型线性搜索条件下,证明了该类算法的全局收敛性.与GN、SFR及MPRP方法进行比较,数值结果表明:谱共轭梯度法是可行的,特别对于大规模无约束优化问题更有效.