求解单调变分不等式的下降型部分并行分裂LQP交替方向法

对于带有三个可分离算子的结构型单调变分不等式问题,结合部分并行分裂算法和LQP交替方向法构造了一个下降方向,并沿着这个下降方向利用效益函数的一个下界给出了最优步长,提出了一种下降型部分并行分裂LQP交替方向法.在较弱的假设条件下证明了新算法的全局收敛性,并将该算法与其他算法的下降量下界进行比较,证明了新算法的优越性.     

一类线性等式约束优化的投影Dai-Yuan共轭梯度法及其全局收敛性

针对具有等式约束的非线性最优化问题,提出了一类具有充分下降特性的投影Dai-Yuan共轭梯度法.在每次迭代过程中,算法均可得到充分下降的搜索方向.在适当条件下,证明了算法产生的搜索方向为可行下降方向,分析了算法的全局收敛性.数值结果表明算法是可行的、有效的.     

非精确求解凸规划的部分交替方向算法

为了求解一类带有三个可分离算子的凸规划问题, 本文得到一种非精确的部分交替方向算法, 给出了新算法的一个下降方向和沿着这个下降方向的最优步长, 并在合理的假设下证明了该算法的全局收敛性. 数值试验表明该算法有效且易于执行.     

求解单调非线性方程组的凸组合算法的收敛性

将求解单调非线性方程组的MPRP算法和CGD算法的下降方向进行凸组合,构造出新的下降方向,提出新的算法,并证明新算法是全局收敛的.     

一种求解单调非线性方程组的凸组合算法

将求解单调非线性方程组的CGD算法和MPRP算法的下降方向进行凸组合,构造出新的下降方向,从而提出新的算法,并给出新算法的全局收敛性定理.通过数值实验比较新算法与CGD算法和MPRP算法的结果,可知新算法优于原算法.     

求解不可微凸可行问题的一种新算法

针对传统算法无法得到不可微函数下降方向的困难,结合方向导数信息,提出了不可微凸可行问题的一种直接算法.首先,为避免在每次迭代过程中计算投影,将凸可行问题转化为求解极大值函数的0-水平集中元素的问题;然后利用方向导数信息构造出下降方向,并且运用一维搜索法确定步长.证明了算法的收敛性,该算法无需利用梯度或次梯度,只需用到函数值信息,易于实现,数值试验表明了该算法的有效性.     

凸二次规划宽邻域原始-对偶势下降内点算法

基于线性规划原始-对偶内点算法的思想,对凸二次规划提出了一种新的内点算法-宽邻域原始-对偶势下降内点算法.算法取牛顿方向作为迭代方向,利用势函数选择迭代步长.由于迭代方向不再正交,因此,算法的复杂性分析不同于线性规划的相应算法的分析.证明了新算法具有O(nL)的迭代复杂性.此外,初步的数值试验表明了算法的可行性以及有效性.     

一种特殊的下降算法——分裂梯度法

求解无约束优化问题,常用的方法有下降算法,牛顿法,共轭梯度法等。当目标函数为几个光滑函数的和时,一些学者提出并研究了增量梯度算法。其基本思想是循环选取单个函数的负梯度作为迭代方向。增量梯度算法的迭代方向不一定是下降方向,所以不能用下降算法的一维搜索确定步长,因为受限于步长的选择,收敛效率不高。本文结合了下降算法和增量梯度算法的思想,提出了分裂梯度法。简单的说,分裂梯度法循环考虑单个函数的负梯度方向,如果这一方向是下降方向,则选择这一方向为迭代方向;否则选取函数的负梯度方向为迭代方向。最后通过数值实验与最速下降算法、随机下降算法以及增量梯度算法进行对比,结果表明对于某些优化问题,采用分裂梯度法更有效。     

解一类凸优化问题的部分非精确交替方向法

针对一类具有三个可分离算子的凸型优化问题，提出一种部分非精确的交替方向算法，得到了算法的一个下降方向和沿着这个下降方向的最合适的步长，在合理的假设下，算法的收敛性得到了证明，数值试验表明这种方法具有较好的效果.     

基于非线性共轭梯度的同时扰动随机逼近方法

为了消除黑塞矩阵和步长因子的影响,利用非线性共轭梯度算法计算搜索方向,在混合非线性共轭梯度算法的作用下保证了每次搜索均为下降方向;利用非精确线搜索方法改进SPSA步长计算方法,通过与下降的搜索方向结合,保证了每次迭代时目标函数值的减小,加快了收敛速度.将改进的SPSA算法用于异步电机再励学习系统中,仿真结果证明了其可行性和优越性.     

一种线搜索下DY共轭梯度法的全局收敛性

利用王长钰等人提出的一种新型线搜索条件对Dai-Yuan非线性共轭梯度法进行了研究。根据这一新型的线搜索条件,结合DY共轭梯度法的方向计算公式,我们在文中提出了一个求解非线性无约束优化问题的算法。当搜索方向为下降方向时,给出了算法的全局收敛性结果及证明过程。     

解大稀疏最优化的Lanczos方法

解大稀疏最优化问题是最优化领域的一个重要课题。本文提出了解这类问题的一个Lanczos方法。这个方法从广义逆角度推导稀疏拟牛顿校正,并利用广义逆技术详细探讨了应用Lanczos方法解由稀疏拟牛顿法产生的线性系统的理由,从而得到了一种截断拟牛顿法。作者通过对Lanczos方法的分析,指出它实质上是某种经典Gram-Schmidt直交化方法,存在着严重的数值不稳定性,从而给出有别于选择直交化的简单再直交化。文章还给出了Lanczos方法和Moore-Penrose广义逆之间的关系。为了保证截断拟牛顿法的寻查方向是一个下降方向,作者对由Lanczos方法产生的三对角矩阵应用Bunch-Parlett分解,从而得到通常的拟牛顿方向,或者正曲率子空间下降方向,或者负曲率下降方向。最后,我们给出利用该方法得到的数值结果。     

一类新的超记忆多步曲线搜索方法及其全局收敛性

提出一种求解无约束最优化问题的超记忆多步曲线搜索方法,此方法具有如下特点：（1）每次迭代目标函数f（x）下降量更大;（2）充分利用前m步的迭代信息;（3）每次迭代同时确定下降方向和步长;（4）步长一致有正下界。在较弱的条件下,证明了此方法的收敛性。     

Armijo型线搜索下的谱CD共轭梯度法

提出了一种新的非线性修正的谱CD共轭梯度算法。该算法得到的搜索方向为下降方向,它既不受线搜索规则的影响,也不受目标函数的凸性影响。同时算法在精确线搜索条件下能够诱导出标准的CD共轭梯度方法。给出的新方法在两种不同Armijo型线搜索规则下具有全局收敛性,数值实验结果显示了新算法的可行性。     

一种求解单调变分不等式的下降型邻近点交替方向乘子法

针对具有可分结构的单调变分不等式问题,基于邻近点算法和文献[12]提出的下降型算法构造了一个新的下降方向,并利用下降量的下界来选择最优步长,提出一种下降型邻近点交替方向乘子法;证明了算法的收敛性;并将该方法与文献[11]中算法的下降量下界进行比较,从理论上说明了算法的优越性。     

一类混合的FR-PC共轭梯度法及其全局收敛性

提出了一种混合的FR-PC共轭梯度法,该法每步迭代都可自动产生一个充分下降方向.分别在Wolfe搜索和固定步长公式下证明了算法的全局收敛性,数值实验说明算法是有效的.     

一类修正的共轭梯度法及数值试验

本文提出了一类求解无约束优化问题的修正的HS共轭梯度法.该算法每步都可产生一个充分下降方向,并且在适当条件下,证明该算法在非精确搜索下全局收敛.最后通过数值试验结果表明该算法的有效性.     

一类修正的FR算法及其全局收敛性

基于喻（2006）提出的修正PRP算法,给出一类修正的FR算法.该算法的优点是：（1）在无需线性搜索的条件下,迭代方向就是充分下降方向;（2）在比喻（2006）的算法更弱的条件下,分析了算法的全局收敛性.     

新的PRP型谱共轭梯度法及其全局收敛性

提出了一种新的不依赖于线搜索就满足充分下降性的PRP型谱共轭梯度法,证明了算法在标准Armijo线搜索下的全局收敛性,并进行了数值比较试验.理论与数值试验结果表明这个算法是一个值得研究的方法.