Armijo型线搜索一个修正LS共轭梯度法的全局收敛性 (运筹学与控制论)

提出一个新的修正Liu-Storey共轭梯度(MLSCG)算法。在精确线搜索下MLSCG算法化归为标准的Liu-Sto-rey(LS)共轭梯度算法。MLSCG算法产生的搜索方向不依赖于所使用的线搜索准则而具有充分下降性。本文证明了MLSCG算法在一个Armijo型线搜索下具有全局收敛性。数值试验表明,对于多数算例MLSCG算法比PRP、HS、LS等算法具有更好的计算结果。     

一种修正三项Hestenes-Stiefel共轭梯度投影算法及其应用

提出一种新的修正三项Hestenes-Stiefel共轭梯度投影算法, 用于求解大规模非线性方程组问题和信号恢复问题. 该算法通过构造一个新的修正Hestenes-Stiefel搜索方向, 结合经典线搜索方法和超平面投影技术而得, 新搜索方向在不需要任何线搜索条件下自动满足充分下降性, 在常规假设条件下, 新算法具有全局收敛性质. 数值实验结果表明,  新算法高效且稳定.     

带参数的混合共轭梯度算法及其收敛性研究

提出一种混合共轭梯度算法来解决无约束优化问题,该算法的搜索方向满足充分下降性条件而不依赖于任何线搜索,在使用Wolf线搜索的条件下,该算法具有全局收敛性。数值算例结果表明算法是有效的。     

Wolfe线搜索下一种修正的HS共轭梯度法及其全局收敛性

提出一种修正的HS共轭梯度法.该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关.并在Wolfe线搜索的条件下证明了该算法全局收敛性.数值实验结果表明算法是有效的.     

广义Wolfe线搜索下一类新共轭梯度法的全局收敛性

对求解无约束最优化问题的共轭梯度法中的方向参数βk给定一个假设条件,确定其取值范围以保证搜索方向是目标函数的充分下降方向,并在较弱的条件下讨论了算法在广义Wolfe线搜索下的全局收敛性。     

一种修正PRP共轭梯度法的全局收敛性

PRP共轭梯度法是众多求解无约束优化问题的共轭梯度法中数值效果表现最好的算法之一.提出一种修正的PRP共轭梯度法,该算法始终产生充分下降方向,并且该充分下降性的产生不依赖于任何线搜索.在一定的条件下,证明了该算法在Armijo型线搜索下求解无约束优化问题时具有全局收敛性.最后,给出了相应的数值结果,证明了该算法的有效性.     

一种充分下降的CD共轭梯度法及其收敛性

基于已有的CD方法,提出了一种改进的CD共轭梯度法(MCD算法).该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关;并在一定的条件下证明了该算法基于Wolfe线搜索求解非凸优化问题的全局收敛性.     

一类新的记忆梯度法

提出了一类新的求解无约束优化问题的记忆梯度法,在较弱条件下证明了该方法的全局收敛性和线性收敛速率.该算法无需任何线搜索而具有充分下降性,且搜索方向自适应在一个信赖域范围之内;该方法继承了著名PRP方法的一个主要性质:当步长很小时,搜索方向靠近于最速下降方向,避免了连续小步长的产生.初步的数值实验结果表明该方法是有效的.     

解大规模非线性方程组的新型梯度类投影算法

针对高效求解大规模非线性单调方程组问题,克服其他算法存储量大等缺点,构建出一个新型的搜索方向,结合线搜索技术和超平面投影方法,提出一种无导数型共轭梯度投影算法。新算法满足以下优点:(1)在不依赖于任何线搜索下,自动满足充分下降性条件;(2)在合理的假设条件下,具有全局收敛性。初步的数值试验结果表明,对于求解大规模非线性单调方程组,在相同条件下新算法比同类算法更高效。     

解大规模非线性方程组的一种三项型投影算法

为加快非线性单调方程组的运算效率,基于高效率线搜索方法和投影技术,构建了一个新型的无导数型三项共轭梯度投影算法.通过改进搜索方向,使得新算法在任何线搜索下都自动满足充分下降性条件和信赖域特性.在一定的假设下,新方法具有全局收敛性,初步数值试验结果表明,新算法比同类算法更加高效.     

修正的LS共轭梯度法在Armijo型线搜索下的收敛性

给出了一种修正的LS算法,该算法保证每次迭代中的搜索方向是充分下降的,并在两种不同的Armijo型线搜索下证明了该算法是全局强收敛的。     

一种充分下降的DY共轭梯度法及其收敛性

基于已有的DY方法和HZ方法,提出了一种修正的DY共轭梯度法(MDY算法)。该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关。在一定的条件下证明了保守MDY算法(CMDY算法)基于Armijo线搜索和Wolfe线搜索求解非凸优化问题的全局收敛性。相关的数值试验结果验证了该方法的有效性。     

一种修正的HS共轭梯度法及其全局收敛性

对经典的HS共轭梯度法进行了修正,保证了搜索方向的充分下降性,这一性质在非精确线搜索和非凸函数情形下也是成立的.在适当的假设下证明了强Wolfe线搜索下算法的全局收敛性,数值实验表明算法数值效果良好.     

一个新的修正HS共轭梯度法及全局收敛性

提出了一个新的修正HS共轭梯度算法解决无约束优化问题,该算法的特点是,搜索方向总是目标函数的下降方向,且不依赖于使用何种线搜索;特别是,若使用精确线搜索,该算法退化成标准的HS共轭梯度法.且在适当的假设条件下,证明了文章提出的算法具有全局收敛性,最后数值实验表明,文章提出的算法是可行的.     

结合广义Armijo步长搜索的一类记忆梯度算法

给定记忆梯度算法搜索方向中的参数一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能得到目标函数的充分下降方向,由此提出一类新的记忆梯度算法.在去掉迭代点列有界和广义Arm ijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Arm ijo线搜索下的共轭梯度法FR、PR、HS和记忆梯度法更稳定、更有效.     

基于凸组合技术的加速FR型共轭梯度算法

为高效求解非线性方程组问题,利用凸组合技术设计一个新型搜索方向,同时结合加速线搜索技术,提出一个新的加速FR型共轭梯度算法.在合理的假设下,新算法拥有全局收敛的良好性质.数值试验结果表明,新算法总体上优于经典FR算法和三项FR算法.新算法继承了修正FR方法的良好数值效果、充分下降性及信赖域特征,并具有计算简单和存储量小...     

求解非光滑问题的修正HS共轭梯度法

结合Moreau-Yosida正则化和非单调线搜索技术,提出一种求解非光滑问题的修正HS共轭梯度算法.推导出搜索方向自动满足充分下降条件,证明该算法在适当条件下具有全局收敛性.数值算例验证了该算法能够高效地处理非光滑极小化问题.     

线性二阶锥权互补问题的非单调无导数下降算法

提出非单调无导数下降算法,用于求解线性二阶锥权互补问题.构造一个效益函数,分析其水平集有界性.提出的算法在计算步长时进行非单调线搜索,搜索方向在一定假设下满足下降条件.理论证明算法全局收敛,数值结果验证算法有效.     

新的PRP型谱共轭梯度法及其全局收敛性

提出了一种新的不依赖于线搜索就满足充分下降性的PRP型谱共轭梯度法,证明了算法在标准Armijo线搜索下的全局收敛性,并进行了数值比较试验.理论与数值试验结果表明这个算法是一个值得研究的方法.     

修正LS共轭梯度法及其全局收敛性

提出一类求解无约束优化问题的修正LS共轭梯度法,算法采用一个新的参数公式．在适当条件下,证明算法满足充分下降条件,进而证明在采用广义Wolfe-Powell线搜索和强Wolfe-Powell线搜索时,算法全局收敛．初步的数值试验结果显示方法是有效的．