Armijo搜索下改进的LS共轭梯度法

共轭梯度法是求解无约束优化问题的一类重要方法。通过调整搜索方向,提出了一类改进的LS共轭梯度法,该方法在每步迭代中都能不依赖于任何搜索而自行产生充分下降方向。在精确搜索下,该算法将还原为原LS方法。在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也全局收敛。同时,数值实验表明该算法可以有效求解优化问题。     

求解大规模非光滑问题的一种修正DY共轭梯度算法

设计了一种针对大规模非光滑优化问题的修正DY共轭梯度算法.新算法的搜索方向不仅自动满足充分下降条件,而且属于信赖域.新算法在适当条件下全局收敛.初步的数值实验显示,新算法能够求解高达50 000维的非光滑凸和非凸优化问题,表明其在求解大规模非光滑无约束凸优化问题方面是有效的.     

一种求解大规模非光滑优化问题的共轭梯度法

针对大规模非光滑优化问题,利用Moreau-Yosida正则化技术和Armijo-type线搜索技术,设计了一种修正LS共轭梯度算法.算法的搜索方向不仅满足充分下降条件,而且具有信赖域性质.可以证明新算法在适当条件下全局收敛.初步的数值实验表明,新算法在求解大规模非光滑无约束凸优化问题方面比LMBM方法和MPRP方法更有效.     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

无约束优化问题的一种新杂交共轭梯度算法

结合DY方法和HS方法给出了求解无约束优化问题的一种新的杂交共轭梯度算法,在无充分下降性假设下,证明了算法在弱Wolfe线搜索条件下的下降性和全局收敛性.数值实验结果表明算法是有效的.     

一种自动充分下降的共轭梯度法

设计了一个新的含参数的共轭梯度公式,此公式自动拥有充分下降性质,在适当条件下,新算法在WWP线搜索下全局收敛.数值实验结果表明新算法是有效的,适用于无约束优化问题的求解.     

一种改进的非线性共轭梯度法

共轭梯度法是求解大规模无约束优化问题的一种有效方法,对DY共轭梯度法的搜索条件进行了改进,并证明在新的Wolfe搜索条件下DY共轭梯度法具有全局收敛性,此方法的改进,为求解大规模无约束优化问题以及各种算法在今后的研究提供了参考。     

无约束优化问题线搜索方法的收敛性

在较弱条件下给出了5种线搜索准则下的线搜索方法的收敛结论,这些结论对于构造快速有效的收敛算法是十分有用的。表明了搜索方向在这些方法中起主要作用,同时步长在一定条件下保证了算法的全局收敛性。说明了算法可用于求解更广泛的无约束优化问题。     

半无限Minimax离散化问题的一个大步长非单调SQP算法

针对半无限Minimax的离散化问题,借鉴一般约束优化问题模松弛强次可行SQP算法思想,提出一个求解半无限Minimax离散化问题的非单调SQP算法.算法初始点可以任意选取,通过求解一个QP子问题来得到搜索方向,在非单调线搜索规则的基础上,结合大步长搜索技巧,提出新的大步长非单调线搜索规则来获得下一个迭代点,最后在适当的条件下证明算法的全局收敛性,初步的数值实验验证算法是可行有效的.     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。     

Armijo型线搜索下的谱CD共轭梯度法

提出了一种新的非线性修正的谱CD共轭梯度算法。该算法得到的搜索方向为下降方向,它既不受线搜索规则的影响,也不受目标函数的凸性影响。同时算法在精确线搜索条件下能够诱导出标准的CD共轭梯度方法。给出的新方法在两种不同Armijo型线搜索规则下具有全局收敛性,数值实验结果显示了新算法的可行性。     

一类记忆梯度法的收敛性

研究一类新的记忆梯度法,算法利用当前点的负梯度和前一点的搜索方向的线性组合为搜索方向,以强wolfe线搜索确定步长,并证明了算法具有全局收敛性,当目标函数一致凸时讨论了收敛速度．     

一种充分下降的DY共轭梯度法及其收敛性

基于已有的DY方法和HZ方法,提出了一种修正的DY共轭梯度法(MDY算法)。该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关。在一定的条件下证明了保守MDY算法(CMDY算法)基于Armijo线搜索和Wolfe线搜索求解非凸优化问题的全局收敛性。相关的数值试验结果验证了该方法的有效性。     

Wolfe线搜索下一种修正的HS共轭梯度法及其全局收敛性

提出一种修正的HS共轭梯度法.该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关.并在Wolfe线搜索的条件下证明了该算法全局收敛性.数值实验结果表明算法是有效的.     

非光滑单值优化的非单调线搜索方法

提供了非光滑单值优化的非单调线搜索方法,基于线性规划的对偶定理,目标函数的方向导数可以表示成线性规划问题,这在实际计算非单调线搜索子问题时是非常重要的,在合理的条件下,证明了 法的整体收敛性和局部超线性收敛速率。     

一类非光滑最优化问题的逐次二次规划方法及其全局收敛性

本文给出了一类非光滑问题的逐次二次规划方法．问题的目标函数是凸函数和一个非光滑合成函数之和．方法利用二次规划的解作为搜索方向，新的迭代点由不精确线搜索得到．在较弱的条件下，证明了方法的全局收敛性．     

一类无约束优化的非单调共轭梯度法

针对无约束优化问题,提出一类新的非单调共轭梯度法,在新的非单调Wolfe条件下保证了算法的全局收敛性,并在每次迭代过程中,均可得到初始的自适应步长和充分下降方向.数值结果表明算法是可行和有效的.     

一类新的下降算法及其全局收敛性

研究给出了一类新的求解无约束优化问题的下降算法.在无任何线搜索下,证明了新算法能够保证充分下降性,并且在采用Wolfe线搜索时,证明了新算法具有全局收敛性.大量的数值试验表明该算法是非常有效的,能够用于广泛的科学计算.     

基于三次模型的线搜索方法及其收敛性

针对无约束优化问题,给出一种基于三次模型的线搜索型算法,并在适当的条件下证明算法的全局收敛性.该算法以对称矩阵代替原三次模型中的Hessian阵,并且不需要保持正定和Dennis-Moré条件,它与一般线搜索法不同,在每次迭代中步长可以在下降方向上由显性公式直接确定,从而可以减少搜索计算.     

约束DC优化的双束法及对偶问题

针对带有凸不等式约束的非光滑DC优化问题,提出了一种基于罚函数的凸约束DC优化问题双束法,同时也刻画了双束法子问题的对偶问题;首先,利用L_1精确罚技巧把凸约束DC优化问题转化成无约束DC优化问题,便于直接对目标函数进行DC分解,然后分别建立了增广目标函数DC分量的凸分段线性近似模型,最后利用Lagrange函数得到了原问题和对偶问题最优解之间的等价关系,说明了利用对偶问题求解搜索方向的可行性和有效性。