次梯度法在求解非光滑最优化问题时的计算效果研究

本文研究了次梯度法的一些重要问题。次梯度法是梯度法在非光滑优化中的直接推广。在每一步的迭代中,选取一个负次梯度方向为搜索方向,并以一定的规则设置搜索步长。次梯度法的每一步迭代不一定都下降,但是可以证明,对于非光滑凸优化问题,次梯度法能够保证全局收敛性。次梯度法的搜索步长是预先设置的,步长设置准则包括常值步长准则、有限平方和步长准则和已知全局极小值的步长准则。本文对各种步长准则的收敛性进行了证明。为了验证次梯度法在不同的步长准则下的计算效果,本文应用次梯度法对一系列非光滑最优化问题进行了计算实验,并分析了他们的计算结果。数值实验结果表明,常值步长准则收敛速度慢,精度不高,而且步长的选择困难。而有限平方和步长准则收敛速度更快,也能够达到更高的精度。至于已知全局极小值的步长准则,虽然精度也较高,但是因为需要事先已知凸优化问题的全局极小值,所以这种步长准则的应用范围有限。     

复合非光滑最优化线搜索方法的全局收敛性

考虑复合非光滑最优化问题minh(f(x)),其中f是一个局部Lipschitzian函数,h是一个连续可微凸函数。本文给出了复合非光滑最优化问题的一个线搜索算法,并且在一定条件下证明了该算法的全局收敛性。     

一类非光滑多目标半无限规划的对偶性

在由作者[1]引入的广义一致凸(广义Univex)函数、广义一致伪凸函数和广义一致拟凸函数等几类非光滑非凸函数的基础上,得到了一类非光滑多目标半无限规划的一些Mond—Weir型对偶性结果．     

非线性方程组在几类计算问题中的应用

非线性方程组讨论的问题为F(x)=0,其中,F∶Rn→Rm.该问题广泛应用于工程、管理和经济学领域.非线性方程数值求解的典型方法之一是牛顿法.由于实际问题中存在大量的非光滑方程问题,近年来非光滑方程、特别是半光滑方程吸引了广大研究者的关注,半光滑牛顿法及其各类应用研究取得了丰硕的成果.本研究基于笔者近段的部分研究工作,介绍了非线性方程在无约束非光滑凸优化、约束最优化、非线性互补、变分不等式、最优控制、二阶段随机规划、随机线性互补和球面上的设计等八个方面的应用.     

基因算法在求解非光滑优化问题中的应用 (三峡地区资源环境生态研究)

本文考虑了基因算法在求解非光滑优化问题中的应用。非光滑优化方法致力于求解目标函数为连续不可微函数的数学规划问题。因为目标函数的不可微性,传统的以梯度为基础的确定性算法在求解非光滑问题时会遇到障碍,所以运用不需要梯度信息而只需要目标函数值信息的遗传算法来求解非光滑问题是一个不错的选择。遗传算法是基于自然界生物遗传变异过程而设计的一种优化算法,它首先对问题的可行解进行编码,编码方法有0-1编码,格雷编码和实数编码,然后运用交叉算子,变异算子和选择算子产生下一代种群。当种群迭代达到一定的次数后,种群中的最优染色体就会收敛到原问题的最优解。本文设计的基因算法基于实数编码,算子分别采用算术交叉算子,非一致变异算子,最佳选择算子。     

基于非精确数据的非光滑优化强次可行方向法

本研究针对一类目标函数非光滑优化问题,提出一个基于非精确数据的强次可行方向法.通过构造新的寻找搜索方向子问题和新型线搜索,该算法能够保证迭代点的强次可行性,且具备全局收敛性.     

非光滑极小极大神经网络收敛性分析

利用非光滑分析的理论讨论了非可微鞍泛函的ｍｉｎｉｍａｘ问题,并建立非光滑神经网络来求鞍泛函的鞍点,在适当的条件下,利用Ｌｙａｐｕｎｏｖ理论讨论了网络的收敛性怀稳定性。     

求解一类无限维非光滑算子方程的光滑化牛顿法

研究一类无限维非光滑算子方程的光滑化牛顿法,构造光滑函数逼近非光滑算子.在半光滑假设条件下,证明了光滑化牛顿法具有全局超线性收敛性.研究表明,此算法可用来求解一类特殊的来源于无限维非线性互补问题的非光滑算子方程.     

非光滑优化的强次可行方向邻近点束求解方法

通过引入新型邻近点参数修正策略及搜索方向子问题,提出一个求解非光滑优化的强次可行方向邻近点束方法.该方法稳定性好,能保证迭代点的强次可行性,且具备全局收敛性.     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。