一类正割修正矩阵带有直接分解且保持稀疏性的拟牛顿法及其收敛性

改进了Ｂｏｇｌｅ和Ｐｅｒｋｉｎｓ就求解稀疏性非线性方程组提出的能够保持正割修正矩阵稀疏性的拟牛顿法，进而提出一类带有直接分解的正割修正矩阵且保持稀疏性的拟牛顿法．进行了数值计算，效果良好；在适当条件下Ｑ－超线性收敛     

基于修正的拟牛顿法的基追踪去噪研究

为提高一维信号去除噪声的稀疏分解基追踪算法的效率,提出了采用修正的拟牛顿法来解决基追踪去噪过程中的无约束优化问题。该算法在传统拟牛顿法的基础上,对BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式进行修正,有效地减少了最优化过程中所需的迭代次数。实验结果表明,修正的拟牛顿法与传统算法相比,能够明显提高目标函数的收敛速率。     

基于修正的拟牛顿法的基追踪去噪研究

为提高一维信号去除噪声的稀疏分解基追踪算法的效率,提出了采用修正的拟牛顿法来解决基追踪去噪过程中的无约束优化问题。该算法在传统拟牛顿法的基础上,对BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式进行修正,有效地减少了最优化过程中所需的迭代次数。实验结果表明,修正的拟牛顿法与传统算法相比,能够明显提高目标函数的收敛速率。     

改进的有限内存BFGS算法的二次终止性质

二次终止性质是一般拟牛顿法的一个重要性质，但为求解大规模优化问题而设计的有限内存拟牛顿法却不能都保持这种良好性质．为此，针对满足修正拟牛顿方程的有限内存BFGS方法加以研究，证明所提出的方法满足二次终止性质．这对于完善有限内存拟牛顿法的理论体系具有重要作用．     

一类稀疏矩阵的撕裂法

对于大稀疏矩阵,在计算中保持矩阵的稀疏性是很重要的。本文提出用撕裂法把一个非本性标准形的稀疏矩阵化为拟标准形,从而使矩阵在约化过程中产生的添补数比原矩阵少。本文还通过实例表明作者提出撕裂法比Steward[1]和[4]提出的方法更有效。     

一类稀疏矩阵的撕裂法

对于大稀疏矩阵,在计算中保持矩阵的稀疏性是很重要的。本文提出用撕裂法把一个非本性标准形的稀疏矩阵化为拟标准形,从而使矩阵在约化过程中产生的添补数比原矩阵少。本文还通过实例表明作者提出撕裂法比Steward[1]和[4]提出的方法更有效。     

解大稀疏最优化的Lanczos方法

解大稀疏最优化问题是最优化领域的一个重要课题。本文提出了解这类问题的一个Lanczos方法。这个方法从广义逆角度推导稀疏拟牛顿校正,并利用广义逆技术详细探讨了应用Lanczos方法解由稀疏拟牛顿法产生的线性系统的理由,从而得到了一种截断拟牛顿法。作者通过对Lanczos方法的分析,指出它实质上是某种经典Gram-Schmidt直交化方法,存在着严重的数值不稳定性,从而给出有别于选择直交化的简单再直交化。文章还给出了Lanczos方法和Moore-Penrose广义逆之间的关系。为了保证截断拟牛顿法的寻查方向是一个下降方向,作者对由Lanczos方法产生的三对角矩阵应用Bunch-Parlett分解,从而得到通常的拟牛顿方向,或者正曲率子空间下降方向,或者负曲率下降方向。最后,我们给出利用该方法得到的数值结果。     

求解大型稀疏对称矩阵极端特征值的子空间加速的截断牛顿法

利用扩展子空间的方法,对求解大型稀疏对称矩阵极端特征值的截断牛顿法进行改进,提出了子空间加速的截断牛顿法。理论分析和数值结果均表明,新方法对计算对称矩阵的极端特征值是有效的。     

一种新的修正有限内存拟牛顿法

依据修正拟牛顿方程,提出一种新的双循环有限内存拟牛顿法.与经典的有限内存BFGS方法相比,新算法同时利用函数值和梯度信息构造拟牛顿校正矩阵,且不会增加计算量,理论分析和数值检验说明了新算法的有效性。     

基于非单调线性搜索技术的修正HS共轭梯度法

基于拟牛顿法中MBFGS修正技术,对HS共轭梯度法中搜索方向的计算公式进行了修正,在较弱的条件下,结合非单调Armijo线性搜索技术,证明了所提出的修正HS共轭梯度法具有全局收敛性,最后通过数值实验验证了所提出的算法的有效性。     

解大型对称矩阵特征值问题的一个子空间加速截断牛顿法

基于非线性优化中的截断牛顿法提出了解大型稀疏对称矩阵特征值问题的一个子空间加速的截断牛顿法,证明了算法的收敛性并进行了数值试验,数值试验结果表明数值结果与理论分析相符,表明该算法是有效的。     

拉格朗日——牛顿法的一个局部超线性收敛算法

桂胜华等曾提出含弱互补函数的不等式约束最优化问题的拉格朗日一牛顿法和拟牛顿法，但算法中计算Hesse矩阵的工作量较大，且该算法仅能解不等式约束最优化问题．论文改进了桂胜华等的算法，用拟牛顿公式代替了Hesse矩阵，并把解不等式约束最优化问题推广到既含不等式约束又含等式约束最优化问题；证明了此算法具有全局收敛性和局部超线性收敛性．     

利用函数值信息的修正多步拟牛顿法

拟牛顿方法在无约束优化中起着核心的作用.一般的拟牛顿方法是在每一步的迭代中,利用上一步产生的梯度信息,建立一个拟牛顿方程,进而求得目标函数Hessian阵的近似.多步拟牛顿法则是利用前m(m≥0)步的梯度信息,通过插值多项式建立一个扩展的拟牛顿方程.这两种方法的共同缺点是没有利用已知的函数值信息.本文在标准多步拟牛顿法基础上,充分利用函数值信息,构造出一个修正的带有向量参数的多步拟牛顿方程,该修正方程的多步拟牛顿法保持了较好的正定性和局部收敛性,且效率较高.数值实验也表明这个修正的算法在解决中,高维问题中比标准的多步拟牛顿方法有着更好的数值效果.     

修正阻尼牛顿算法

对一般目标函数极小化问题,本文提出一类新的修正阻尼牛顿法,此算法能保证目标函数Hessian矩阵的正定性,并证明了对一般的非凸目标函数,该算法是全局收敛的。     

一种新修正拟牛顿法的超线性收敛性

拟牛顿法是无约束极小化中最有效的算法之一。通过讨论一种基于新拟牛顿方程的修正拟牛顿法,给出了该算法的局部超线性收敛性。     

二次规划的Q－平方收敛算法

本文提出一个解二次规划的修正步长牛顿法，它保证迭代点列在严格可行解集内。并且保持牛顿法的Ｑ－平方收敛速度，每步的计算量为Ｏ（ｎ￣（２．５））个运算。     

一个新的拟牛顿信赖域方法

提出求解无约束优化问题的一个修正拟牛顿信赖域方法。算法可以保持信赖域子问题海森矩阵的正定性。在适当条件下,证明了算法的全局收敛性,并通过数值实验说明了算法的可行性。     

求解一类非线性方程组的Newton-PLHSS方法

基于倾向一侧的对称／反对称分裂(LHSS)迭代方法,提出了一类求解Jacobi矩阵在解x*处为大型稀疏非埃尔米特矩阵的非线性方程组的Newton PLHSS方法,给出了这类不精确牛顿法的两种局部收敛性定理。数值结果验证了该方法的正确性和有效性。     

无约束优化问题的稀疏拟牛顿法

对无约束优化问题提出了一种稀疏拟牛顿法,算法在每次迭代中运用拟牛顿方法的思想确定其搜索方向,采用非精确线性搜索确定步长,在通常的假设条件下,证明了算法的全局收敛性和线性收敛速度.     

基于混合割线方程修正的L-BFGS算法

L-BFGS方法是解决大规模无约束优化问题最有效的拟牛顿方法之一,该方法既保持了BFGS方法在理论上良好的收敛性,又克服了拟牛顿法储存量大、计算量大的困难。大量研究表明,对割线方程进行修正能更好地逼近目标函数的二阶曲率信息,进而改善BFGS方法的计算效率。基于Li和Yuan等人提出的两种割线方程,构造了一种新的混合割线方程,并用该方程修正了L-BFGS算法,提出了一个基于混合割线方程修正的L-BFGS算法(ML-BFGS)。在适当的假设条件下,建立了ML-BFGS方法在一致凸函数上的全局收敛性,并证明了该方法是R-线性收敛的。数值结果表明,在某些情况下,ML-BFGS方法要比L-BFGS方法更优。