一个新的求解无约束优化问题的超记忆梯度法

提出一个新的求解无约束优化问题的超记忆梯度法.该算法在每步迭代中充分利用前面迭代点的信息产生下降方向,利用曲线搜索产生步长,并且在每步迭代中不需计算和存储矩阵,适于求解大规模优化问题.在较弱的条件下证明了算法具有全局收敛性和线性收敛速度.数值实验表明该算法是有效的.     

对支撑集搜索法约定的一些标注

实际工程应用的很多非线性规划(NLP)模型都是非光滑问题,传统优化技术如拟牛顿法或最速下降法无法很好地求解这些问题.不依赖于方向导数计算或逼近的直接搜索法(Direct Searches)或支撑集搜索法GSS(Generating Set Searches)在近几年来得到较多的关注和研究.本文对GSS约定的一些要求,如充分下降和简单下降条件对步长接受准则的影响,如何避免较差的下降方向和迭代步长,为什么必须给定步长收缩因子的上界等进行标注,以便为该领域的进一步深入研究提供参考.     

一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.     

一类新的Wolfe线性搜索下的记忆梯度法

提出一类新的求解无约束优化问题的记忆梯度法,在较弱条件下证明了算法具有全局收敛性和线性收敛速率。算法在每步迭代中利用当前和前面迭代点的信息产生下降方向,不需计算和存储矩阵,适于求解大规模优化问题。初步的数值试验表明算法比Wolfe搜索下的FR,PRP和HS共轭梯度法及最速下降法有效。     

全双工双向中继系统的功率分配方案

提出了最大化系统的频谱效率(SE)和能量效率(EE)两种功率分配方案.EE优化问题用迭代算法求解,首先运用分式规划的方法把优化问题转变成易求解的非分式优化问题,然后运用Dinkelbach算法求得用户节点的最佳功率,再运用一维搜索求得最佳中继放大系数,最后利用迭代算法求得EE最大值.SE优化问题同样用迭代算法求解.仿真结果显示,针对不同目标函数的两种功率分配方案分别提高了系统的EE和SE,同时迭代算法能够快速收敛获得最优解.     

一种特殊的下降算法——分裂梯度法

求解无约束优化问题,常用的方法有下降算法,牛顿法,共轭梯度法等。当目标函数为几个光滑函数的和时,一些学者提出并研究了增量梯度算法。其基本思想是循环选取单个函数的负梯度作为迭代方向。增量梯度算法的迭代方向不一定是下降方向,所以不能用下降算法的一维搜索确定步长,因为受限于步长的选择,收敛效率不高。本文结合了下降算法和增量梯度算法的思想,提出了分裂梯度法。简单的说,分裂梯度法循环考虑单个函数的负梯度方向,如果这一方向是下降方向,则选择这一方向为迭代方向;否则选取函数的负梯度方向为迭代方向。最后通过数值实验与最速下降算法、随机下降算法以及增量梯度算法进行对比,结果表明对于某些优化问题,采用分裂梯度法更有效。     

Armijo搜索下改进的LS共轭梯度法

共轭梯度法是求解无约束优化问题的一类重要方法。通过调整搜索方向,提出了一类改进的LS共轭梯度法,该方法在每步迭代中都能不依赖于任何搜索而自行产生充分下降方向。在精确搜索下,该算法将还原为原LS方法。在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也全局收敛。同时,数值实验表明该算法可以有效求解优化问题。     

一类新的记忆梯度法及其收敛性

提出一类新的求解无约束优化问题的记忆梯度法。算法在每步迭代中利用当前和前面迭代点的信息产生下降方向,采用精确线性搜索或Wolfe非精确线性搜索产生步长,在较弱条件下证明了算法具有全局收敛性和线性收敛速率。数值试验表明算法是有效的。     

基于交替方向法的韦伯问题求解方法

韦伯问题(Weber problem)是设施选址领域中的重要问题,Weiszfeld算法则是求解韦伯问题最常用的数值方法.应用Weiszfeld算法求解韦伯问题需考虑如下两方面:1)当出现迭代点和顾客点重合(称为奇异情形)时,Weiszfeld算法的全局收敛性无法保证;2)韦伯问题经常需要快速求解,但Weiszfeld算法作为最速下降法其求解效率并不高.本文对lp-范数下的韦伯问题建立基于交替方向法的统一算法框架,并提出求解l1,l2,l∞-范数下韦伯问题新的数值算法.新算法在算法的收敛性和收敛效率两方面都有着显著的优势:即使在奇异情形下新算法仍能保证全局收敛性,且具有比Weiszfeld算法更快的收敛效率.数值实验验证了基于交替方向法的新算法求解韦伯问题的有效性.     

求解单调线性互补问题的势下降内点算法

研究了单调线性互补问题的一种内点法,将牛顿方向和中心路径方向相结合,通过求解一个线性方程组得到搜索方向;在每次迭代中,寻找使得新的迭代点满足可行性要求且同时使得势函数值下降的步长参数,进而建立了求解单调线性互补问题的一种势下降内点算法,并证明该算法经过多项式次迭代之后收敛到原问题的一个最优解,数值实验表明此方法是有效的。