求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。
     

共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛．混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题．同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例．     

无约束优化问题新的谱共轭梯度法(英文)

通过结合牛顿法与PRP谱共轭梯度法提出一新的谱共轭梯度法.该方法为下降方法且为Birgin谱共轭梯度法与PRP共轭梯度法的线性组合.在适当的假设下算法全局收敛.     

一类基于共轭梯度法的下降算法

共轭梯度法是求解大规模我约束优化问题的有效算法之一,近年来出现了很多共轭梯度法收敛性的相关文献。本文研究基于共轭梯度法的下降算法,证明了算法的收敛性,并对算法进行了数值试验,结果表明算法是很有效的。     

不完全左共轭梯度法及其数值表现

由于左共轭梯度算法没有短迭代公式,因而计算左共轭梯度方向的代价会随着迭代次数的增多而不断提高.为了节约存贮量、减少计算成本,有效的不完全左共轭梯度技巧显得非常必要.本文介绍两种不完全左共轭梯度的基本算法:有限内存左共轭梯度法和重开始的左共轭梯度法,并从不同角度对两种方法进行数值分析.此外,我们还给出相应的块左共轭梯度算法的不完全格式,也恰好是克服不完全左共轭梯度法中断的一个有效技巧.     

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

强Wolfe线搜索下一种混合的PRP-WYL共轭梯度法（英文）

【目的】为了结合Polak-Ribière-Polyak(PRP)共轭梯度法和Wei-Yao-Liu(WYL)共轭梯度法良好的理论和计算特性。【方法】通过分段函数,一种混合的PRP-WYL共轭梯度法被提出。【结果】在强Wolfe线搜索条件下,算法具有充分下降性和全局收敛性。【结论】初步数值结果表明,PRP-WYL算法比某些现有的包括PRP和WYL的共轭梯度算法更有效。     

一类改进的谱共轭梯度法

谱共轭梯度法是在共轭梯度法基础上发展起来的新型算法,其特点是有两个方向控制 参数,是解决大规模无约束优化问题的有效方法,也是优化工作者研究的热点。本文基于已有的 非线性谱共轭梯度法提出了一类新的谱共轭梯度法,利用新构造的共轭方向调控参数βk构建了新 的算法,并保证了该算法在任何线搜索下都满足共轭条件,进而在迭代时产生的搜索方向都是充 分下降的。在Wolfe线搜索下,该方法的全局收敛性得以验证。     

用于电容层析成像技术的共轭梯度算法

针对电容层析成像技术中的“软场”效应和病定问题,基于灵敏度矩阵的奇异值分解理论,提出共轭梯度图像重建算法及其改进算法———正则化共轭梯度法.仿真实验得知:经过 200次迭代后,Landweber算法残差为0. 139 5,未加正则化的共轭梯度算法残差为 1. 357 7×10-4;完成同样操作,Landweber算法迭代耗时 9. 3s,共轭梯度法只需 6. 8s.可见,共轭梯度法是一种比其他的迭代算法收敛更快、成像效果更好的图像重建算法.     

LP鞍点共轭梯度法的研究与实现

在线性规划问题中,为了提高算法的求解速度,快速得到最优解。对鞍点算法,共轭梯度法进行了深入研究与分析。针对鞍点算法在逼近鞍点时收敛速度变慢的缺陷,将计算比较简单且有限步迭代即可收敛的共轭梯度法成功的应用于鞍点算法中形成了一种新的算法—鞍点共轭梯度算法。以c 为开发工具,在计算机上实现了该算法,并编成一个解题系统能够快速求解线性规划问题。实验结果表明相对于鞍点算法,用鞍点共轭梯度算法计算,解题时间效率明显提高。     

一类充分下降的谱共轭梯度法

首先基于共轭梯度法的共轭条件和下降性,提出了一类充分下降的谱共轭梯度法.该方法将经典共轭梯度法中搜索方向由原来的只满足一个共轭条件改变为同时满足一个共轭条件和一个下降条件;然后,在Wolfe线搜索下用反证法证明了新算法的全局收敛性;最后,通过12个算例,将新算法和已有SHS算法在迭代次数和计算时间方面进行了数值比较实验,比较结果表明新算法在这两个方面都明显优越于SHS算法.算法的全局收敛性和数值结果的优越性表明,新算法是一个值得研究的方法.     

一类充分下降的谱共轭梯度法 (运筹学与控制论)

首先基于共轭梯度法的共轭条件和下降性,提出了一类充分下降的谱共轭梯度法。该方法将经典共轭梯度法中搜索方向由原来的只满足一个共轭条件改变为同时满足一个共轭条件和一个下降条件;然后,在Wolfe线搜索下用反证法证明了新算法的全局收敛性;最后,通过12个算例,将新算法和已有SHS算法在迭代次数和计算时间方面进行了数值比较实验,比较结果表明新算法在这两个方面都明显优越于SHS算法。算法的全局收敛性和数值结果的优越性表明,新算法是一个值得研究的方法。     

一种混合的共轭梯度法

共轭梯度法是求解大规模无约束问题的一种有效方法.针对算法的优劣主要依赖于步长因子和搜索方向的特点,结合共轭梯度法的共轭性质,提出一种改进的可以控制步长因子的混合的HS-DY共轭梯度法.数值试验表明算法具有良好的收敛性和有效性.     

强Wolfe线搜索下一种混合的PRP-WYL共轭梯度法

【目的】为了结合Polak-Ribière-Polyak (PRP) 共轭梯度法和Wei-Yao-Liu (WYL) 共轭梯度法良好的理论和计算特性。【方法】通过分段函数一种混合的PRP-WYL共轭梯度法被提出。【结果】在强Wolfe线搜索条件下，算法具有充分下降性和全局收敛性。【结论】初步数值结果表明，PRP-WYL算法比某些现有的包括PRP和WYL的共轭梯度算法更有效。     

嵌入共轭梯度算子的遗传算法

分析病态线性方程组的机理,将原线性方程组的求解问题转化为一个等价变分问题的极少值点寻优问题。在遗传算法产生的子代群体的个体以固定的概率采用共轭梯度法产生新子群,即采用共轭梯度法在局部进行搜索。将共轭梯度法局部搜索能力与遗传算法全局搜索能力有机结合,从而实现了混合算法的优化。算例结果表明,该算法对于病态方程组的求解效果明显优于一般的遗传算法和共轭梯度法。     

一种求解无约束优化问题的共轭梯度法

共轭梯度法是求解大规模无约束问题的一种有效方法,本文针对算法的优劣主要依赖于步长因子和搜索方向的特点,结合共轭梯度法的共轭性质,在HS方法和DY方法的基础上,提出了一种混合共轭梯度法,并证明了全局收敛性.     

修正的HS共轭梯度算法的全局收敛性

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性.数值试验结果表明,新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效.     

一种修正PRP共轭梯度法的全局收敛性

PRP共轭梯度法是众多求解无约束优化问题的共轭梯度法中数值效果表现最好的算法之一.提出一种修正的PRP共轭梯度法,该算法始终产生充分下降方向,并且该充分下降性的产生不依赖于任何线搜索.在一定的条件下,证明了该算法在Armijo型线搜索下求解无约束优化问题时具有全局收敛性.最后,给出了相应的数值结果,证明了该算法的有效性.