基于新拟牛顿方程的拟牛顿法对一般目标函数的全局收敛性

文章通过四阶泰勒展开提出了一种新拟牛顿方程,且给出了新的拟牛顿算法,并结合Wolfe非精确线性搜索证明了此新拟牛顿算法对一般非凸无约束优化问题的全局收敛性.     

一种改进的混合牛顿算法

目的研究非凸函数的无约束最优化问题的算法。方法提出求解该问题的一种混合牛顿算法。结果新算法能有效弥补牛顿算法要求目标函数"凸"的局限性,从而推广了牛顿算法的适用范围,在一定条件下新算法仍具有全局收敛性和二次收敛性。结论新的算法是有效可行的。     

求解非线性方程组的一个光滑化一步牛顿算法

针对非线性非光滑函数方程组提出了一种新的光滑化一步牛顿算法,这个算法的每步迭代只需要解1个线性方程组,执行1次线搜索.证明了该算法是全局收敛的,并且在一定条件下,证明了它的局部超线性收敛性和二次收敛性.     

解等式约束规划的信赖域SQP滤子方法

讨论了一种信赖域SQP滤子方法的局部收敛性.滤子方法会遇到Maratos效应,尽管完全牛顿步可能是一个超线性收敛步,但是当迭代点充分靠近原问题的严格局部解时,完全牛顿步可能会使目标函数值和约束违反度上升,从而不被算法接受,于是破坏了算法的收敛性.给出一种修改后的信赖域SQP滤子算法,当完全步不被接受时,对算法进行二阶校正(SOC),可以减小其不可行性.修改后的算法可以避免Maratos效应,使算法达到局部超线性收敛.     

IP语音通话中回声消除算法的研究

文章首先介绍了IP电话系统中回声的特点以及声学回声消除的原理,并针对IP语音通信中回声的特点,介绍了用于处理这种回声的LMS牛顿算法,但其存在步长因子选择较难、收敛性能不高等缺点.该文在LMS牛顿算法的基础上,提出了一种改进的LMS牛顿算法,并对该算法的基本原理进行了分析说明.计算机仿真结果表明了该算法的可行性和优越性...     

一种自适应拟牛顿广义特征分解算法

通过构造一种新的无约束损失函数,广义特征分解问题可以转化为无约束优化问题.此损失函数具有良好的特性,即具有全局极小点、无局部极值点,从而保证了迭代算法的全局收敛性.利用近似Hessian矩阵,提出了一种新的自适应拟牛顿广义特征分解算法.然后,采用随机逼近理论,严格分析了算法的收敛性.仿真结果表明,算法具有快速收敛和动态跟踪能力.     

基于代数变换求解P0阵线性互补问题的不可行内点算法

基于代数变换和KMM算法的框架,通过在牛顿方程中嵌入一种自调节功能,提出了一种新的求解P0阵线性互补问题的不可行内点算法,并证明了该算法的全局收敛性.     

基于修正拟牛顿方程解非线性方程组问题的非单调自适应信赖域算法

基于修正拟牛顿方程,结合一种新的非单调策略,设计了一种新的解非线性方程组问题的非单调自适应信赖域算法,分析了算法的全局收敛性.进一步的数值实验表明算法是有效的,并且适于求解大规模问题.     

一种广义互补问题的磨光方法

文章基于文献[1]中一种广义互补问题的转化模型，建立了一种磨光牛顿算法，并在适当的条件下，证明了这种算法的超线性收敛性和Q-二次收敛性．     

新拟牛顿方程下一类改进BFGS算法的全局收敛性

文献[1]曾在已建立的一类新拟牛顿方程Bk 1sk=yk-=yk kγskTsksk的基础上,证明了满足新拟牛顿方程的一类改进BFGS算法在目标函数为一致凸的条件下,具有全局收敛性。此文针对该算法,给出了全局收敛性的另一种证明方法。     

关于非单调拟牛顿算法的一个改进

对于无约束优化问题提出了一类新的非单调拟牛顿算法.该算法在修正的拟牛顿方程基础上添加参数,从而推广了已有的拟牛顿方程.采用非单调线性搜索准则,并在一定条件下证明了新的非单调拟牛顿算法具有全局收敛性.     

求解加权最小包容球问题的两种算法

研究在高维空间中的加权最小包容球问题,该问题是非光滑的凸优化问题.提出光滑逼近和非精确牛顿共轭梯度算法求解该问题,并证明其收敛性.此外,给出数值实验,比较这2种算法和经典牛顿共轭梯度算法的计算效率,其中非精确牛顿共轭梯度算法的计算效率更高.     

一种基于弱拟牛顿方程的单调梯度法的收敛性

基于弱拟牛顿方程,Leong W J等人提出了一种单调梯度法,该算法在每次迭代时利用对角矩阵逼近Hessian矩阵,使计算量和存储量明显减少,并且此算法对凸函数具有收敛性。在此算法的基础上,进一步研究了算法对于一般函数的收敛性,并证明了在一定的假设条件下算法仍具有全局收敛性、R-线性收敛性和超线性收敛性。     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

求解非凸函数优化问题的修正广义拟牛顿算法

对无约束最优化问题,提出了一种修正的广义拟牛顿算法,证明了该算法对非凸函数在Goldstein非精确线搜索下具有全局收敛性．     

基于三阶拟牛顿方程的对角三阶拟牛顿法

基于三阶拟牛顿方程,结合Zhang H.C.提出的非单调线搜索规则设计了求解大规模无约束优化问题的对角三阶拟牛顿算法。该算法在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使存储量和计算量明显减少,并且证明了算法的全局收敛性和超线性收敛性。数值试验表明该算法是有效的。     

带约束方程的一种新最速势缩减算法

利用势缩减牛顿算法与最速下降算法,我们建立了求解约束方程的一种新的最速势缩算法,不仅提高了迭代速度、减少计算量,重要的是保证了算法的收敛性结果．     

广义拟牛顿算法对一般目标函数的收敛性

对于无约束最优化问题minf(x),x∈Rn,提出了一种广义拟牛顿算法,并且讨论了广义拟牛顿算法对一般目标函数的全局收敛性,以及当f(x)满足Lipschitz连续的条件下,证明了相应的超线性收敛定理。     

拟牛顿算法的收敛特性及算法的拓广

介绍了拟牛顿算法的收敛特性，即算法采用精确线性搜索与非精确线性搜索时具有的全局收敛性与超线性收敛性。这些优良性质使拟牛顿算法类在优化算法中占有极为重要的地位。相关的研究成果十分丰富，这里作一简要介绍及若干算法拓广。     

基于新拟牛顿方程的一类超线性收敛的改进BFGS算法

针对无约束最优化问题,在已建立的一类新拟牛顿方程的基础上,把满足于传统拟牛顿方程的一类改进BFGS算法推广到新拟牛顿方程,从而得到一类基于新拟牛顿方程的改进BFGS算法.证明该算法在目标函数为一致凸时具有局部超线性收敛性.