一种线搜索下DY共轭梯度法的全局收敛性

利用王长钰等人提出的一种新型线搜索条件对Dai-Yuan非线性共轭梯度法进行了研究。根据这一新型的线搜索条件,结合DY共轭梯度法的方向计算公式,我们在文中提出了一个求解非线性无约束优化问题的算法。当搜索方向为下降方向时,给出了算法的全局收敛性结果及证明过程。     

Wolfe线搜索下两种修正DY共轭梯度法的全局收敛性

提出了两个修正的DY(Dai-Yuan)共轭梯度法(ZDY1算法和ZDY2算法),并证明这两个修正的共轭梯度法公式β(1)k和β(2)k在Wolfe下都是全局收敛的,其中一个在Wolfe线搜索下是下降的,另一个在不依赖于任何线搜索下充分下降。在求解大规模的非线性优化问题的过程中,这些结果对加快算法的收敛速度和增强算法的收敛性提供了理论依据。
     

一类线性等式约束优化的投影Dai-Yuan共轭梯度法及其全局收敛性

针对具有等式约束的非线性最优化问题,提出了一类具有充分下降特性的投影Dai-Yuan共轭梯度法.在每次迭代过程中,算法均可得到充分下降的搜索方向.在适当条件下,证明了算法产生的搜索方向为可行下降方向,分析了算法的全局收敛性.数值结果表明算法是可行的、有效的.     

求解无约束优化的一个新的下降共轭梯度法

基于Dai-Yuan共轭梯度法,本文给出了求解无约束优化的一个非线性共轭梯度法.对任意的线性搜索,该方法满足充分下降条件gTkdk≤-(1-1/4μ)‖gk‖2,μ1/4;而且,对一般的非线性函数,不需限制的下限值,用Wolf线搜索具有全局收敛性.     

3种推广的DY共轭梯度法及其全局收敛性

在标准DY共轭梯度方法的基础上提出以βkDY为界的3种杂交共轭梯度算法,在适当的条件下证明了这些方法是全局收敛的,并用数值实验检验其有效性.初步的数值实验表明,3种共轭梯度法比标准DY共轭梯度法更合适求解测试函数.     

不完全左共轭梯度法及其数值表现

由于左共轭梯度算法没有短迭代公式,因而计算左共轭梯度方向的代价会随着迭代次数的增多而不断提高.为了节约存贮量、减少计算成本,有效的不完全左共轭梯度技巧显得非常必要.本文介绍两种不完全左共轭梯度的基本算法:有限内存左共轭梯度法和重开始的左共轭梯度法,并从不同角度对两种方法进行数值分析.此外,我们还给出相应的块左共轭梯度算法的不完全格式,也恰好是克服不完全左共轭梯度法中断的一个有效技巧.     

HS与PR共轭梯度算法的整体收敛性

研究共轭梯度算法的整体收敛性,在放宽了的强Ｗｏｌｆｅ搜索（１８）、（１９）下证明了［１］中提出的修正ＨＳ共轭梯度算法的收敛性,在充分下降性条件下,βｋ＝ｍａｘβＨＳｋ,０｛｝时也具有整体收敛性,同时,βｋ＝ｍａｘ０,βＰＲｋ｛｝时,利用Ａｒｍｉｊｏ搜索和Ｇｏｌｄｓｔｅｉｎ搜索的共轭梯度法也具有整体收敛性．     

用于电容层析成像技术的共轭梯度算法

针对电容层析成像技术中的“软场”效应和病定问题,基于灵敏度矩阵的奇异值分解理论,提出共轭梯度图像重建算法及其改进算法———正则化共轭梯度法.仿真实验得知:经过 200次迭代后,Landweber算法残差为0. 139 5,未加正则化的共轭梯度算法残差为 1. 357 7×10-4;完成同样操作,Landweber算法迭代耗时 9. 3s,共轭梯度法只需 6. 8s.可见,共轭梯度法是一种比其他的迭代算法收敛更快、成像效果更好的图像重建算法.     

Wolfe线搜索下两种修正DY共轭梯度法的全局收敛性

提出了两个修正的DY(Dai-Yuan)共轭梯度法(ZDY1算法和ZDY2算法),并证明这两个修正的共轭梯度法公式β_k~((1))和β_k~((2))在Wolfe下都是全局收敛的,其中一个在Wolfe线搜索下是下降的,另一个在不依赖于任何线搜索下充分下降。在求解大规模的非线性优化问题的过程中,这些结果对加快算法的收敛速度和增强算法的收敛性提供了理论依据。     

一类改进的谱共轭梯度法

谱共轭梯度法是在共轭梯度法基础上发展起来的新型算法,其特点是有两个方向控制 参数,是解决大规模无约束优化问题的有效方法,也是优化工作者研究的热点。本文基于已有的 非线性谱共轭梯度法提出了一类新的谱共轭梯度法,利用新构造的共轭方向调控参数βk构建了新 的算法,并保证了该算法在任何线搜索下都满足共轭条件,进而在迭代时产生的搜索方向都是充 分下降的。在Wolfe线搜索下,该方法的全局收敛性得以验证。