求解非光滑问题的一种修正LS共轭梯度算法

针对非光滑无约束凸函数的极小化问题,提出改进的LS共轭梯度算法。其产生的搜索方向不仅具有充分下降性和信赖域的特点,而且算法在适当条件下具有全局收敛性。数值结果证明了该算法对于非光滑问题是有效的,从而改进的LS共轭梯度算法能够高效快捷地处理非光滑无约束凸函数的极小化问题。     

一种求解大规模非光滑优化问题的共轭梯度法

针对大规模非光滑优化问题,利用Moreau-Yosida正则化技术和Armijo-type线搜索技术,设计了一种修正LS共轭梯度算法.算法的搜索方向不仅满足充分下降条件,而且具有信赖域性质.可以证明新算法在适当条件下全局收敛.初步的数值实验表明,新算法在求解大规模非光滑无约束凸优化问题方面比LMBM方法和MPRP方法更有效.     

求解非线性方程组的一个光滑化一步牛顿算法

针对非线性非光滑函数方程组提出了一种新的光滑化一步牛顿算法,这个算法的每步迭代只需要解1个线性方程组,执行1次线搜索.证明了该算法是全局收敛的,并且在一定条件下,证明了它的局部超线性收敛性和二次收敛性.     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。     

求解大规模非光滑问题的一种修正DY共轭梯度算法

设计了一种针对大规模非光滑优化问题的修正DY共轭梯度算法.新算法的搜索方向不仅自动满足充分下降条件,而且属于信赖域.新算法在适当条件下全局收敛.初步的数值实验显示,新算法能够求解高达50 000维的非光滑凸和非凸优化问题,表明其在求解大规模非光滑无约束凸优化问题方面是有效的.     

求解对称锥互补问题一个新的光滑函数方法

针对求解单调对称锥互补问题(简记为SCCP),构造了一个新的光滑逼近函数,分析了该函数的一些基本性质.基于这一新的光滑函数提出一个具有非单调线搜索的光滑算法,最后在适当的条件下,证明所提算法是全局超线性收敛.     

一类新的修正Fletcher-Reeves算法

研究了一类非单调线性搜索技术在无约束化问题共轭梯度算法中的应用,该类非单调线性搜索是属于Armijo型的线性搜索.在适当的条件下,对一般非凸函数,证明了新给出的的非单调线性搜索下,修正Fletcher-Reeves共轭梯度算法的全局收敛性,数值结果表明了该算法的有效性.     

求解非线性规划的一个连续化方法

带不等式约束的非线性规划,其KKT条件可以通过NCP函数转化为一个非光滑的方程组,然后用熵光滑化函数光滑化,得到一个带参数的方程组.提出了一个求解该参数方程组的非内点连续化方法,证明了该算法的全局线性收敛和局部二次收敛.计算结果表明了该算法的有效性.     

线性圆锥互补问题的非单调非精确光滑牛顿法

给出求解圆锥互补问题的一种新的非单调非精确光滑牛顿法.基于一个圆锥互补函数的光滑函数,将线性圆锥互补问题转化成一个方程组,然后用非精确光滑牛顿法求解该方程组,并且在新算法中引入一个新的非单调线搜索技术.在适当假设下,证明该算法具有全局收敛性和局部二阶收敛速度.数值结果表明算法的有效性.     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

一种广义非线性互补问题的新的光滑牛顿算法

提出了一种新的光滑牛顿法,即在算法中嵌入非单调的线搜索技术,并将该算法从非线性互补问题(NCP)推广到广义非线性互补问题(GNCP).通过证明,该算法对GNCP问题是适定的,并在GNCP解集非空有界的假设条件下,证明了该算法的全局收敛性和局部二次收敛性.     

一类新拟牛顿算法的超线性收敛性

为求解箱约束变分不等式,给出一种新的基于光滑扰动函数的正则化拟牛顿算法.此算法用无导数线搜索,并在F是P0-函数条件下,证明了Jocabi矩阵非奇异和算法超线性收敛.     

线性二阶锥权互补问题的非精确非单调光滑化牛顿法

针对线性二阶锥权互补问题, 提出一种新的非精确非单调光滑化牛顿法. 首先, 基于新的含参数光滑函数, 将线性二阶锥权互补问题转化为一个光滑方程组; 然后, 给出求解该方程组的新非精确非单调光滑化牛顿法; 最后, 在半正定矩阵假设下, 证明该算法全局收敛和局部超线性收敛. 数值结果表明, 该算法稳定、 有效.     

求解一类无限维非光滑算子方程的光滑化牛顿法

研究一类无限维非光滑算子方程的光滑化牛顿法,构造光滑函数逼近非光滑算子.在半光滑假设条件下,证明了光滑化牛顿法具有全局超线性收敛性.研究表明,此算法可用来求解一类特殊的来源于无限维非线性互补问题的非光滑算子方程.     

求解二次锥规划问题的非精确光滑算法

针对大规模二次锥规划问题提出一种非精确光滑算法.  该算法允许搜索方向有一定的误差, 在选择步长时采用非单调线性搜索策略. 证明了从任意点出发能得到算法的局部二次收敛速率.     

基于非精确数据的非光滑优化强次可行方向法

本研究针对一类目标函数非光滑优化问题,提出一个基于非精确数据的强次可行方向法.通过构造新的寻找搜索方向子问题和新型线搜索,该算法能够保证迭代点的强次可行性,且具备全局收敛性.     

半无限Minimax离散化问题的一个大步长非单调SQP算法

针对半无限Minimax的离散化问题,借鉴一般约束优化问题模松弛强次可行SQP算法思想,提出一个求解半无限Minimax离散化问题的非单调SQP算法.算法初始点可以任意选取,通过求解一个QP子问题来得到搜索方向,在非单调线搜索规则的基础上,结合大步长搜索技巧,提出新的大步长非单调线搜索规则来获得下一个迭代点,最后在适当的条件下证明算法的全局收敛性,初步的数值实验验证算法是可行有效的.     

不假定凸性和精确线搜索时DFP算法的收敛性

对非凸目标函数,Broyden变尺度算法的收敛性是一个没有完全解决的问题.针对DFP修正公式证明在不假定精确线搜索条件下,对光滑的目标函数,当DFP算法得到的点列收敛时,该点列一定趋向于稳定点.指出对于其他Broyden算法结论都是成立的.     

一种基于分类问题的光滑极限学习机

极限学习机具有快速的学习速度和良好的泛化性能.光滑化是一种重要的处理非光滑问题的技术.将光滑化技术应用于极限学习机,提出了一种光滑化的极限学习机框架,并用Newton-Armijo算法来求解.该算法具有全局和二次收敛的性质.与已有的光滑支持向量机相比,该模型有更少的决策变量,并且能够更好地解决非线性问题.数值实验表明该算法的速度要比传统的极限学习算法更快.与支持向量机相比,提出的算法有更好的或者相似的泛化性能.     

加权最小包容球问题的对偶光滑逼近算法

【目的】研究加权最小包容球问题，并给出一类求解该问题的算法。【方法】加权最小包容球问题是一个极大极小化的非光滑问题。首先利用对偶方法将该问题转化为极小化非光滑问题，然后利用光滑逼近思想，将该问题转化为极小化的光滑问题进行求解。【结果】根据数据实例表明该算法有效。【结论】得到求解加权最小包容球问题的一类对偶光滑逼近算法。