求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。     

求解无约束优化问题的两个谱共轭梯度法的全局收敛性

谱共轭梯度法含有两个方向调控参数,是一种结合共轭梯度法和谱梯度法的无约束优化方法。本文建立新的共轭参数和谱参数,提出无约束优化问题的两个谱共轭梯度法,这两个新方法在精确线搜索下等价于FR共轭梯度法。然后,证明了算法1在Wolfe线搜索下和算法2在Armijo线搜索下的全局收敛性,并给出了算法的数值实验结果,验证了算法的有效性。
     

一类改进的谱共轭梯度法

谱共轭梯度法是在共轭梯度法基础上发展起来的新型算法,其特点是有两个方向控制 参数,是解决大规模无约束优化问题的有效方法,也是优化工作者研究的热点。本文基于已有的 非线性谱共轭梯度法提出了一类新的谱共轭梯度法,利用新构造的共轭方向调控参数βk构建了新 的算法,并保证了该算法在任何线搜索下都满足共轭条件,进而在迭代时产生的搜索方向都是充 分下降的。在Wolfe线搜索下,该方法的全局收敛性得以验证。     

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件

在一般假设下,提出并证明了Armijo线搜索下谱共轭梯度法全局收敛的一个充分条件,分析了充分条件的优越性。分析结果表明:1)该充分条件的一个推论是文献[9]中定理1弱化后的结果;2)谱参数对谱共轭梯度法的全局收敛性起着重要的调节作用;3)该充分条件为构造全局收敛的谱共轭梯度法提供了依据。     

一类修正LS谱共轭梯度法的全局收敛性 (运筹学与控制论)

谱共轭梯度法是一类将共轭梯度法和谱梯度法相结合的方法。2001年由Birgin和Martinez首先提出,但该方法不能保证始终产生下降方向。本文用已有的修正方法,给出一个修正的Liu-Storey公式,并结合谱梯度法,提出了一个具有充分下降性的修正Liu-Storey谱共轭梯度法,证明了该方法在标准Armijo非精确线搜索下的全局收敛性,并易推知该方法在Armijo-Goldstein非精确线搜索准则下同样满足全局收敛性。给出的数值实验表明,新算法略优于LS方法。     

一种新的谱共轭梯度法及其全局收敛性（英文）

共轭梯度法因具有迭代简单、收敛性和低内存等优点而在求解大型优化问题中发挥着重要作用。本文对已有文献中的共轭参数RMILβk进行改进,得到了一种新的谱共轭梯度法。该方法每步迭代产生的搜索方向具有下降性。在适当的条件下,该方法在Armijo线搜索和Wolfe线搜索下均具有全局收敛性。数值试验表明,该方法可行有效。     

无约束优化的下降谱共轭梯度算法

为求解无约束优化问题,设计含调比因子的共轭参数和谱参数,使相应的谱共轭梯度法具有下降性,在步长由Wolfe线搜索产生的情况下,新算法满足全局收敛性.初步的数值实验表明新算法是有效的.     

带有最优参数选择的修正DL共轭梯度法

利用矩阵条件数的求解方法,求解基于MBFGS割线条件的修正DL共轭梯度法中的参数t,提出带有优选参数的修正DL共轭梯度法;假设搜索方向有下降性,并通过强Wolfe线搜索求解步长,证明了新的共轭梯度法对一般函数有全局收敛性;最后比较了新的共轭梯度法的数值有效性。     

一类求解大规模非线性单调方程组的无导数共轭梯度方法

提出一类求解大规模非线性单调方程组的无导数共轭梯度算法.利用Liu和Feng提出的共轭参数改进技术,对数值性能较优越的RMIL共轭梯度方向进行改进,并引入谱参数,构造新的搜索方向.该方向继承了RMIL共轭梯度法的数值稳定性且满足充分下降性条件.再结合投影技术和无导数线搜索技术,在适当假设条件下,获得算法的全局收敛性证明...     

一类共轭梯度算法的收敛性分析

对解决无约束最优化问题提出一种包含了四种经典共轭梯度法的双参数共轭梯度法簇,并结合修改后的Armijo线搜索技术,证明了新的双参数共轭梯度法簇具有全局收敛性.     

一种新的谱共轭梯度法及其全局收敛性

共轭梯度法因具有迭代简单、收敛性和低内存等优点而在求解大型优化问题中发挥着重要作用。本文对文献[6]中的共轭参数RMILk进行改进，得到了一种新的谱共轭梯度法。该方法每步迭代产生的搜索方向具有下降性。在适当的条件下，该方法在Armijo 线搜索和 Wolfe 线搜索下均具有全局收敛性。数值试验表明，该方法可行有效。
     

基于Armijo型线搜索下的谱共轭梯度法

在WYL共轭梯度法的基础上,提出了一种新的谱共轭梯度法,并且证明了该方法在Armijo线搜索下具有充分下降性和全局收敛性.数值试验表明该方法是有效的。     

Wolfe线搜索下的一类新的共轭梯度法

给出了解无约束最优化问题的共轭梯度法的一个新的迭代参数,得到一种新的共轭梯度法,并在Wolfe线搜索下,证明了算法的全局收敛性。     

非线性无约束优化问题的新共轭梯度法

在DY共轭梯度法的基础上,给出一个新的共轭梯度法公式,在精确线搜索下该公式等价于DY公式.建立了基于新参数公式并采用Wolfe线搜索的共轭梯度算法,证明了算法满足下降性和具有全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题.     

充分下降的共轭梯度法簇及其全局收敛性

在双参数共轭梯度法的基础上,给出一类具有充分下降性的共轭梯度法簇,证明了相应的方法在非单调线搜索及弱Wolfe线搜索下对非凸目标函数全局收敛,并用数值实验表明该方法具有良好的数值结果.     

一类不带线搜索的单参数共轭梯度法的全局收敛性

共轭梯度方法是求解大规模优化问题的一种非常有效的方法.近年,戴彧虹和袁亚湘提出了一种三参数共轭梯度法,并证明了这种方法的收敛性.然而,线搜索技巧往往会增加计算的复杂度,为了克服这个缺点,孙捷和张家普又提出了一种叫做不带线搜索的共轭梯度方法.该文的主要工作就是把这种不带线搜索技巧,应用到三参数共轭梯度法的一种特殊情况上,并证明其收敛性.     

基于Wolfe线搜索的修正共轭梯度算法

为解决大型无约束优化问题,设计新的修正参数公式,建立基于Wolfe线搜索的共轭梯度算法和谱共轭梯度算法,证明了新算法的下降性和全局收敛性.初步的数值实验表明算法是有效的.     

一种线搜索下三项共轭梯度法的全局收敛性

文章〈Hestenes-Stiefel共轭梯度法的全局收敛性〉中提出一新型线搜索条件,根据这一新型的线搜索条件以及一般三项共轭梯度法的方向计算公式,证明了一般三项共轭梯度法在这一线搜索下的全局收敛性.     

修正FR谱共轭梯度法在信号恢复问题中的应用

基于压缩感知理论，为解决稀疏信号恢复问题，在经典的FR共轭梯度法分析的基础上，给出一种基于谱梯度方法的修正FR谱共轭梯度法，该方法结合了FR、DY、CD等6种经典共轭梯度法的共轭参数部分特点。另外，证明了所给方法在Wolfe线搜索下具有下降方向且全局收敛，通过与其他2种算法的数值结果比较显示，本文算法具有一定优势。同时，信号重构结果表明，提出的方法重构信噪比高，耗时少，能有效的应用于稀疏信号的恢复问题。