Broyden族校正公式的另一种推导方法

给出了Broyden族校正公式的另一种推导方法,从另一角度表现了Broyden族各校正公式之间的关系,证明了Hoshino校正公式是Broyden凸族中唯一自对偶校正公式.     

拟牛顿算法的基本性质

介绍无约束优化的Broyden算法族的基本性质，即算法产生的校正矩阵{Bk}或{Hk}的正定传递性以及产生的迭代方向的共轭性，这些性质是其他优化算法不具备的，还介绍了Huang算法族及它的重要性质．     

用初值问题方法求解边值问题的同伦延拓技术

讨论了用初值问题方法求解非线性微分方程边值问题的同伦延拓技术。重点介绍了同伦延拓PC(Predic tor Corrector)技术及其在边值问题求解中的应用 ,并给出了几项求解策略 ,包括矩阵QR分解、矩阵广义逆、Broyden秩 1校正等。结合PC方法 ,采用数值软件Matlab进行编程 ,数值结果表明该方法是非常有效的。     

用初值问题方法求解边值问题的同伦延拓技术

讨论了用初值问题方法求解非线性微分方程边值问题的同伦延拓技术。重点介绍了同伦延拓PC(Predictor-Corrector)技术及其在边值问题求解中的应用，并给出了几项求解策略，包括矩阵QR分解、矩阵广义逆、Broyden秩1校正等。结合PC方法，采用数值软件Matlab进行编程，数值结果表明该方法是非常有效的。     

半定内积下的矩阵奇异值分解

利用矩阵广义逆研究了其中一个权矩阵为半正定的,另一个权矩阵为正定的加权奇异值分解,同时给出了半定内积下的矩阵奇异值分解及其存在的条件。     

对称不定矩阵的校正分解

在分析对称正定矩阵的校正分解算法的基础上，提出了解决对称不定矩阵的校正分解算法，一对称不定矩阵的Bunch-Parlett分解需要0(n^3)次运算，而根据对称不定矩阵的Bunch-Parlett分解得到的Bunch-Parlett校正分解算法仅需0(n^2）次运算，数值结果也比较稳定。     

最优自调节变尺度法的导出

就如何选取自调节变尺度法的调节因子及Broyden族参数引入了新的度量函数,给出相应的最优调节因子及最优参数,这一对参数为在保证修正矩阵对称正定条件下的整体最优参数,所得的公式为自对偶的.     

关于Broyden族算法收敛性的几种解析

研究无约束最优化问题,理论分析和大量数值实验表明,拟牛顿法是效果最好的一类方法,它利用目标函数值和一阶导数的信息,构造出目标函数的曲率近似,使方法具有类似牛顿法的收敛速度快的优点。Broyden族算法正是目前较流行的一类拟牛顿算法。它可以在精确线搜索和非精确线搜索两种条件下考虑。在这篇文章中,首先研究了采用Broyden族算法(∈[0,1))的整体收敛性和一类非精确搜索的Broyden(∈[0,1))的整体收敛性。最后研究了Broyden族算法的超线性收敛性。     

不定内积H-正规矩阵的分解

讨论不定内积下H-正规矩阵的各种分解,给出了任意H-正规矩阵分解的算法,推广了Gohberg和Reichstein^［2］的相应结论.     

基于矩阵型惯性投影神经网络的非负矩阵分解算法

提出一种基于矩阵型神经动力学优化的非负矩阵分解算法.将矩阵非负分解优化问题首先转换为两个矩阵变量凸优化子问题，针对其子问题分别提出矩阵型惯性投影神经网络；然后，采用交替迭代方案寻找矩阵非负分解优化问题的解.理论分析证明了矩阵型惯性投影神经网络能收敛于矩阵变量凸优化子问题的最优解，并且基于矩阵型神经网络的交替迭代算法可以收敛到矩阵非负分解优化问题的偏最优解.最后，所提出的基于矩阵型神经网络的交替迭代算法被有效地应用于人脸识别.     

基于可限加分解阵的三值ECL电路设计算法

在介绍函数的矩阵表示形式、凸性及非凸性函数、可限加分解阵等的基础上,提出了可限加分解阵的求取方法和挑选可限加分解阵的算法,将所得到的可限加分解阵进行取小运算就可以得到函数的矩阵表示。随后以3变量模3加电路设计为例,阐述了该方法和步骤的具体过程。设计结果表明了该方法和步骤的有效性和可操作性。     

非负矩阵分解及其改进方法

首先,给出非负矩阵分解的数学形式,分析欧式距离和相对熵(KL)散度两种分解误差评价函数.然后,针对3种特殊形式的非负矩阵进行分解方法的改进,优化函数和迭代过程分别适用于正交非负矩阵、凸非负矩阵、投影非负矩阵的分解.结果表明:提出的改进方法简化了非负矩阵分解的过程.     

基于新迭代规则的稀疏CNMF人脸识别方法

针对凸非负矩阵分解(CNMF)人脸识别方法的运行时间长且识别率不高的问题,提出一种可收敛的易于计算的新目标函数,并引入阈值稀疏约束,得到新的迭代规则,可有效提高识别率和减少计算时间.首先,图像经预处理后得到低频训练样本,经由新迭代规则的稀疏凸非负矩阵方法分解,得到特征的稀疏基矩阵和权值系数矩阵;然后,基于稀疏特征基矩阵对测试样本进行分解,得到测试集的特征权值系数矩阵;最后,使用一对一支持向量机对该特征权值系数矩阵进行识别分类.基于新规则的稀疏化基矩阵数据更为集中,因此相应系数矩阵中特征的权值也更为集中,易于进行分类识别.实验结果表明:基于新迭代规则的稀疏CNMF方法的识别率可达到100%,比凸非负矩阵分解、稀疏非负矩阵分解、多层非负矩阵分解方法分别提高了33.0%,10.0%和5.5%,并且识别时间更短,图像重构误差更小.     

求解凸极小化问题的一种带预校正步的分解方法

针对三个变量的可分离凸优化问题,提出了一种带预校正步的交替方向分解方法.与交替方向乘子法和预校正近似乘子法相比,该算法同样使用了增广拉格朗日函数,并且对偶变量进行了两次迭代.不同于之处在于,这种算法推广到了三个变量的情况.在系数矩阵是列满秩及拉格朗日函数有鞍点的假设下,该算法是收敛的.     

关于凸集边界

本文在[1]的基础上给出凸集边界的若干结果。主要证明了任一凸集的边界可以分解为一族开线段与其端点集之并。     

半监督凸非负矩阵分解

基于流形正则化思想,提出了半监督凸非负矩阵分解算法.该算法通过类间图和类内图刻画数据的内在几何结构,使得所提算法不但具有数据矩阵凸分解特性,而且保持它的几何结构和判别信息.最后,人脸数据集上的实验研究表明所提算法能够获得良好的识别性能.     

L_(3/2)正则化图非负矩阵分解算法

基于图正则化非负矩阵分解算法(GNMF),提出一种基于凸光滑的L3/2范数正则化图非负矩阵分解算法.该算法用非负矩阵分解算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构,并对数据的低维表示特征进行凸光滑的L3/2范数稀疏性约束,在给出算法更新迭代规则的同时,从理论上证明了所给算法的收敛性.通过人脸数据库ORL、手写体数据库USPS和图像库COIL20的仿真实验表明,相对于非负矩阵分解算法及其基于稀疏表示的改进算法,所给算法均具有更高的聚类精度.     

水声信号的调制方式识别

研究了不同水声信道环境下不同调制方式的水声信号识别算法。该算法利用双谱计算信号的双谱矩阵,并对双谱矩阵进行特征值特征向量分解,将分解得到的最大特征值对应的特征向量作为特征量。文中选取不同水声信道传输的样本信号计算其特征量,将待识别信号的特征量与样本信号的特征量做内积运算,将最大内积值对应的调制方式作为待识别信号的调制方式。实验仿真结果表明,该算法较好地实现了不同信道环境下的水声信号分类识别,在高信噪比条件下能达到90%以上的识别率。     

不假定凸性和精确线搜索时DFP算法的收敛性

对非凸目标函数,Broyden变尺度算法的收敛性是一个没有完全解决的问题.针对DFP修正公式证明在不假定精确线搜索条件下,对光滑的目标函数,当DFP算法得到的点列收敛时,该点列一定趋向于稳定点.指出对于其他Broyden算法结论都是成立的.     

一族解非线性方程组的Broyden—ABS算法

提出了一族Broyden-ABS型算法，它的Jocobian矩阵是由一系列Boroyden的行递推所形成。它是把Broyden算法和ABS投影算法结合在一起，避免了在算法中求Jacobian矩阵F’（x）。同时避免了在算法中求差商带来的不稳定性。（见[5],[6]）。第二部分在标准假定下证明了所提出的算法具有超线性收敛。第三部分讨论了参数zj^(k),wj^(k)的选择。该算法具有很高的实用性。