Wolfe线搜索下一种修正的HS共轭梯度法及其全局收敛性

提出一种修正的HS共轭梯度法.该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关.并在Wolfe线搜索的条件下证明了该算法全局收敛性.数值实验结果表明算法是有效的.     

一类新的非单调线性搜索BFGS算法

研究了一类非单调线搜索在解无约束优化问题BFGS算法中的应用.该类非单调线搜索属于Armijo型线搜索,并且在每次迭代计算步长时,初始测试步长可根据目标函数的特征进行调整.证明了本算法全局收敛性,通过对公共优化测试函数的实验,表明了算法的稳健性和有效性.     

MWWP线搜索下的新共轭梯度法

随着计算机技术的革新和生产生活中大规模无约束优化问题的涌出,为寻求高效快速的方法,本文构造新共轭梯度算法.将一种修正弱Wolfe-Powell线搜索称为MWWP线搜索,使其与具有良好的充分下降性的DPRP共轭梯度法相结合,证明了该算法在新型线搜索下的全局收敛性,并将该算法与传统共轭梯度法进行了数值实验对比,数值实验结果表明了新方法是有效可行的.     

一种修正的HS共轭梯度法及其全局收敛性

对经典的HS共轭梯度法进行了修正,保证了搜索方向的充分下降性,这一性质在非精确线搜索和非凸函数情形下也是成立的.在适当的假设下证明了强Wolfe线搜索下算法的全局收敛性,数值实验表明算法数值效果良好.     

应召搜索中搜索的轨线与策略

在数学实验环境Maple下对应召搜索中搜索轨线的微分方程模型和关于搜索路线的对策问题进行了讨论,通过实验,展示了Maple实验环境的友好界面,以引起学生对数学实验这门课程的兴趣和重视,以便于更积极地进行探讨.     

工程优化计算中Wolfe-Powell准则的研究

讨论在工程优化计算的线搜索阶段如何寻找满足Wolfe-Powell准则的步长问题.针对插值法使用的技巧与方法,给出了一个改进的高效稳定的算法.然后通过数值实验表明,与精确线搜索相比,采用Wolfe-Powell准则的非精确线搜索不仅能大大提高优化算法的效率,而且还增强了算法的数值稳定性, 可以较好地克服罚因子较大时带来的计算困难.     

一种修正三项Hestenes-Stiefel共轭梯度投影算法及其应用

提出一种新的修正三项Hestenes-Stiefel共轭梯度投影算法, 用于求解大规模非线性方程组问题和信号恢复问题. 该算法通过构造一个新的修正Hestenes-Stiefel搜索方向, 结合经典线搜索方法和超平面投影技术而得, 新搜索方向在不需要任何线搜索条件下自动满足充分下降性, 在常规假设条件下, 新算法具有全局收敛性质. 数值实验结果表明,  新算法高效且稳定.     

充分下降的共轭梯度法簇及其全局收敛性

在双参数共轭梯度法的基础上,给出一类具有充分下降性的共轭梯度法簇,证明了相应的方法在非单调线搜索及弱Wolfe线搜索下对非凸目标函数全局收敛,并用数值实验表明该方法具有良好的数值结果.     

一类修正Hager-Zhang共轭梯度法的收敛性及其数值实验

为有效提高求解无约束优化问题的计算效率, 提出一类新的修正Hager-Zhang共轭梯度法, 该算法不依赖线搜索, 具有充分下降性和信赖域性质. 理论研究结果表明, 在常规假设条件下, 新算法不仅在弱Wolfe-Powell线搜索下对一般函数全局收敛, 且对一致凸函数具有R-线性收敛速度. 数值实验结果表明, 新算法比经典Hager-Zhang算法及其两个修正算法性能更优.     

非线性无约束优化问题的新共轭梯度法

在DY共轭梯度法的基础上,给出一个新的共轭梯度法公式,在精确线搜索下该公式等价于DY公式.建立了基于新参数公式并采用Wolfe线搜索的共轭梯度算法,证明了算法满足下降性和具有全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题.     

一类新型的修正WYL共轭梯度算法

针对大规模无约束优化问题,提出一类新型的修正WYL共轭梯度算法。新算法不依赖任何线搜索且具有充分下降性和信赖域性质,在弱Wolfe-Powell线搜索下全局收敛。初步的数值实验结果表明,新算法是有效的,比经典WYL型共轭梯度法更具竞争性。     

基于Armijo型线搜索下的谱共轭梯度法

在WYL共轭梯度法的基础上,提出了一种新的谱共轭梯度法,并且证明了该方法在Armijo线搜索下具有充分下降性和全局收敛性.数值试验表明该方法是有效的。     

无约束优化中带线搜索的非单调信赖域算法

将信赖域与线搜索方法相结合,采用非单调技术,提出一种求解无约束优问题的非单调信赖域算法,并在适当的条件下,证明算法有全局收敛性和Q-二次收敛性.算法在试探步不被接受时,采用非单调线搜索寻找下一迭代点.算法克服了传统非单调算法中用于产生非单调性的参考函数值远大于实际函数值的问题.初步的数值试验证实算法是有效的.     

带有固定步长的非单调信赖域方法

该文提出一种新的非单调信赖域方法．当试探步不能被接受时，算法沿着试探步的方向求得下一个迭代点，其中步长利用固定公式计算．这种方法既避免了重复求解信赖域子问题，又减少了线搜索方法计算函数值的次数．该文采用的非单调策略是基于张洪超和Hanger（2004）出的非单调线搜索技术．在适当的条件下，证明了算法的全局收敛性及超线性收敛性．最后给出了初步的数值实验结果．     

一种修正HS共轭梯度法的全局收敛性

对HS算法进行了修正,在非单调线搜索下,该方法保证每次迭代中的搜索方向是充分下降的。在较弱的条件下,证明了此类非单调修正HS算法具有全局收敛性。最后对算法进行了数值试验,试验结果表明,该算法具有良好的收敛性和有效性,尤其适合求解大规模无约束优化问题。     

非单调线搜索下的记忆梯度法及其全局收敛性

提出一种新的非单调线搜索准则,结合文献中给出的dk,研究一类新的记忆梯度法,在较弱条件下证明了其全局收敛性.算法采用新的非单调线搜索准则,使目标函数值在每一次迭代时充分下降,有效降低了算法的计算量,同时还减弱了文献中算法的使用条件,从而扩大了算法求解问题的范围.     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

大规模无约束优化的非单调有限内存BFGS算法

结合有限内存及非单调搜索技术提出了求解大规模无约束优化的非单调有限内存BFGS(NLBFGS)算法,在一定的条件下给出了算法收敛性结论.从标准试验函数库CUTE中选择标准函数,与线搜索满足强Wolfe条件的L-BFGS算法相对比进行了数值试验,结果表明算法是较为满意的.     

混合谱梯度方法及其在医学图像弹性配准中的应用

 大规模优化问题一直是理论研究领域的研究重点,求解无约束最优化问题的混合谱梯度方法将多元谱梯度方法和谱梯度方法有效地 结合在一起,综合了二者的优势,引入非单调线搜索后,形成了全局收敛的混合谱梯度算法,并用于医学图像弹性配准B样条参数 模型的求解。医学图像弹性配准是医学图像处理研究的热点和难点,其中的参数模型往往转化为无约束优化问题的求解,当参数数 目较大时传统的方法求解费时,而混合谱梯度算法较多地利用梯度信息,避免了梯度计算的浪费,与层次B样条结合可以极大地提 高参数配准的优化速度和精度,算法中的非单调线搜索还有助于避免局部最优。