基于修正的拟牛顿法的基追踪去噪研究

为提高一维信号去除噪声的稀疏分解基追踪算法的效率,提出了采用修正的拟牛顿法来解决基追踪去噪过程中的无约束优化问题。该算法在传统拟牛顿法的基础上,对BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式进行修正,有效地减少了最优化过程中所需的迭代次数。实验结果表明,修正的拟牛顿法与传统算法相比,能够明显提高目标函数的收敛速率。     

一种新修正拟牛顿法的超线性收敛性

拟牛顿法是无约束极小化中最有效的算法之一。通过讨论一种基于新拟牛顿方程的修正拟牛顿法,给出了该算法的局部超线性收敛性。     

一种压缩感知中的改进的正则化牛顿算法

提出了一种新的压缩感知重构算法——正则化牛顿算法.该算法结合了牛顿法重建效果好和正则化正交匹配追踪(Regularized Orthogonal Matching Pursuit,ROMP)收敛速度快的优点.并且在此基础上,针对原有的正则化过程进行了改进.Madab仿真结果表明,文中提出的算法在重构精度上要高于正交匹配追踪(Orthogonal Matching Pursuit,OMP)和正则化正交匹配追踪(ROMP),而在迭代次数和重构时间上要低于牛顿法和正交匹配追踪(OMP).     

拟牛顿迭代方法初始值的研究

针对拟牛顿法对初始值敏感的问题,提出一种粒子群优化算法和拟牛顿法相结合的方法.该方法首先利用粒子群优化算法的全局搜索性对所求问题在可行解区域范围内进行大范围的搜索,搜索到一定程度,把当代的最好点作为拟牛顿法的初始值进行拟牛顿法迭代.数值结果表明,该方法有效地解决了拟牛顿法对初始值的敏感性问题,保证拟牛顿法的收敛性.     

基于非单调线性搜索技术的修正HS共轭梯度法

基于拟牛顿法中MBFGS修正技术,对HS共轭梯度法中搜索方向的计算公式进行了修正,在较弱的条件下,结合非单调Armijo线性搜索技术,证明了所提出的修正HS共轭梯度法具有全局收敛性,最后通过数值实验验证了所提出的算法的有效性。     

一种新的修正有限内存拟牛顿法

依据修正拟牛顿方程,提出一种新的双循环有限内存拟牛顿法.与经典的有限内存BFGS方法相比,新算法同时利用函数值和梯度信息构造拟牛顿校正矩阵,且不会增加计算量,理论分析和数值检验说明了新算法的有效性。     

一个新的对称秩1变尺度算法及其全局收敛性

本文在参考文献[6]的基础上,进一步修正了原对称秩1拟牛顿法,从而提出了一个新的对称秩1变尺度算法,此法具有形式简单、易于计算的特点。并且我们证明了此新算法具有较好地全局收敛性质。     

利用函数值信息的修正多步拟牛顿法

拟牛顿方法在无约束优化中起着核心的作用.一般的拟牛顿方法是在每一步的迭代中,利用上一步产生的梯度信息,建立一个拟牛顿方程,进而求得目标函数Hessian阵的近似.多步拟牛顿法则是利用前m(m≥0)步的梯度信息,通过插值多项式建立一个扩展的拟牛顿方程.这两种方法的共同缺点是没有利用已知的函数值信息.本文在标准多步拟牛顿法基础上,充分利用函数值信息,构造出一个修正的带有向量参数的多步拟牛顿方程,该修正方程的多步拟牛顿法保持了较好的正定性和局部收敛性,且效率较高.数值实验也表明这个修正的算法在解决中,高维问题中比标准的多步拟牛顿方法有着更好的数值效果.     

一类正割修正矩阵带有直接分解且保持稀疏性的拟牛顿法及其收…

改进了Ｂｏｇｌｅ和Ｐｅｒｋｉｎｓ就求解稀疏性非线性方程组提出的能够保持正割修正矩阵稀疏性的拟牛顿法，进而提出一类带有直接分解的正割修正矩阵且保持稀疏性的拟牛顿法。进行了数值计算，效果良好；在适当条件下Ｑ－超线性收敛。     

一类正割修正矩阵带有直接分解且保持稀疏性的拟牛顿法及其收敛性

改进了Ｂｏｇｌｅ和Ｐｅｒｋｉｎｓ就求解稀疏性非线性方程组提出的能够保持正割修正矩阵稀疏性的拟牛顿法，进而提出一类带有直接分解的正割修正矩阵且保持稀疏性的拟牛顿法．进行了数值计算，效果良好；在适当条件下Ｑ－超线性收敛     

基于新拟牛顿方程的一类超线性收敛的改进BFGS算法

针对无约束最优化问题,在已建立的一类新拟牛顿方程的基础上,把满足于传统拟牛顿方程的一类改进BFGS算法推广到新拟牛顿方程,从而得到一类基于新拟牛顿方程的改进BFGS算法.证明该算法在目标函数为一致凸时具有局部超线性收敛性.     

改进的匹配追踪在方波信号滤波中的应用

为了克服常规滤波方法对方波信号滤波能力的不足,实现对方波信号的精确滤波,提出了一种改进的匹配追踪算法。针对方波信号特征,构建了与方波信号匹配而对噪声不敏感的方波原子;基于正交匹配追踪,并吸收子空间追踪的回溯思想,改进了最优原子选择方法;鉴于有用信号与噪声信号的能量差异,使用了一种自适应迭代停止标准,能准确找到有用信号和噪声的临界点,解决噪声能量未知的预估问题。对不同信噪比下的仿真方波信号进行滤波,经实测验证,所提方法在信噪比和均方误差方面都优于常规去噪算法,且保留了方波的特征,适用于方波信号的滤波。     

一类拟牛顿算法的收敛性

根据一类基于新拟牛顿方程Bk 1sk=yk*的修改BFGS类算法,采用广义W olfe线搜索模型(GW搜索模型):f(xk 1)≤f(xk) δkαgTkdk和g(xk 1)Tdk≥m ax{,σ1-(kα‖dk‖)p}gTkdk,其中0<δ≤σ<1,p∈(-∞,1),得到一类修正的BFGS算法(M BFGS),证明了M BFGS算法的全局收敛性和超线性收敛性.数值试验结果表明M BFGS算法是有效的.     

一类改进的拟牛顿算法

在利用拟牛顿算法求解非线性无约束优化问题中,本文在文献[8]提出的拟牛顿方程基础上,通过加权形式构造一类改进拟牛顿方程,产生了修正的BFGS校正公式,进而提出改进的拟牛顿算法,在一定条件下证明新算法的全局收敛性。数值实验结果表明,与文献[12]中的拟牛顿算法对比,新算法在迭代次数上更有优势。     

一种求解大规模优化的有限内存方法

在修正的拟牛顿方程的基础上，给出了一种适用于求解大规模问题的有限内存对称秩一算法，该算法充分利用了迭代过程所得到的函数值和相应的梯度值。同时，用有限内存技术改造一般对称秩一算法，给出了对称秩一矩阵的有限内存矩阵表示，从而大大节省了计算机的内存和计算量，使算法更适用于大规模优化问题的求解。     

一种基于小波变换的去噪新算法

提出一种去除观测信号中白噪声的新方法．分析了白噪声和一般信号的小波变换系数的不同特点，对Hampel滤波器进行了改进．利用白噪声和一般信号小波变换系数的不同特点，用改进后的滤波器对信号小波变换系数序列进行滤波处理，从而达到降噪的目的．仿真结果表明，滤波算法对不同种类、不同信噪比的信号有很好的降噪效果，尤其适用于强噪声背景下弱信号的检测。     

改进的有限内存BFGS算法的二次终止性质

二次终止性质是一般拟牛顿法的一个重要性质，但为求解大规模优化问题而设计的有限内存拟牛顿法却不能都保持这种良好性质．为此，针对满足修正拟牛顿方程的有限内存BFGS方法加以研究，证明所提出的方法满足二次终止性质．这对于完善有限内存拟牛顿法的理论体系具有重要作用．     

混合噪声的图像复原算法

提出了一种基于中值滤波和局部线性核平滑的图像去噪算法.该算法采用在空间域中的自适应滤波思想,运用改进的混合滤波器去除图像中的混合噪声.该算法的特点是复原后的图像能较好地保留边缘,同时对图像退化的先验知识要求不严格,并且有明确的数学公式,更适合实际运用.实验表明,作者提出的方法对含有混合噪声的图像复原具有较好的效果.     

一种基于去冗余字典的图像去噪算法

图像去噪是图像处理中的关键问题之一,也是图像后续处理的基础.结合近年来兴起的稀疏表示理论,能更好的处理图像去噪问题.在正交匹配追踪(orthogonal matching pursuit,OMP)的基础上,采用K-奇异值分解(K-SVD)算法对图像进行去噪.为了得到更好的去噪效果,改进了字典更新算法,对字典原子进行优化选择,去除冗余的字典原子,并用图像块替换字典原子,用于提高字典训练的效率,与自然图像数据相适应.实验结果表明,与小波去噪算法相比,该算法具有良好的去噪能力,能较好地保持图像的细节和边缘特征,去噪后的图像更为清晰.