一种稀疏图正则化的非负低秩矩阵分解算法

非负矩阵分解方法(non-negative matrix factorization,NMF)广泛应用于图像聚类、计算机视觉、信息检索等领域。但是,现有的NMF方法还存在一些不足之处：①NMF方法直接在高维原始图像数据集上计算它的低维表示,而实际上原始图像数据集的有效信息常常隐藏在它的低秩结构中;②NMF方法还存在对噪声敏感以及鲁棒性差的缺点。为了提高NMF算法的鲁棒性和可解释性,提出一种稀疏图正则化的非负低秩矩阵分解算法(sparse graph regularized non-negative low-rank matrix factorization,SGNLMF)。通过低秩约束和图正则化,SGNLMF算法同时利用了数据的几何信息和有效低秩结构;此外,SGNLMF算法还对基矩阵加以稀疏约束,使得其鲁棒性和可解释性均有一定的提升。还提出了一种求解SGNLMF的迭代算法,并从理论上分析了该求解算法的收敛性。通过在ORL和YaleB数据库上的实验结果表明SGNLMF算法的有效性。     

对称加权算法对数据矩阵补全的优化研究

数据分析中存在数据集矩阵缺失,可用数据矩阵补全缺失数据元素,高效的补全数据矩阵算法可从算法精度等方面优化提升.为此提出对称加权(SW)算法,首先,根据通用的矩阵补全模型,用正则化方法进行低秩矩阵分解补全;其次,对分解后的矩阵因子用共同的对称矩阵加权,得到新的矩阵补全模型和正则化加权函数;最后,结合块坐标下降和交替最小二乘法优化算法,迭代得到目标函数最优解,获得数据补全的最优补全矩阵.仿真结果表明,与APALM,IRSVF和IRNN算法相比,对称加权算法在数据矩阵补全的精度和算法收敛速度方面均有较好提升.     

L_(3/2)正则化图非负矩阵分解算法

基于图正则化非负矩阵分解算法(GNMF),提出一种基于凸光滑的L3/2范数正则化图非负矩阵分解算法.该算法用非负矩阵分解算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构,并对数据的低维表示特征进行凸光滑的L3/2范数稀疏性约束,在给出算法更新迭代规则的同时,从理论上证明了所给算法的收敛性.通过人脸数据库ORL、手写体数据库USPS和图像库COIL20的仿真实验表明,相对于非负矩阵分解算法及其基于稀疏表示的改进算法,所给算法均具有更高的聚类精度.     

基于图形正则化低秩表示张量与亲和矩阵的多视图聚类

针对聚类中忽略局部结构、 低秩表示张量与亲和矩阵高度依赖性等问题, 提出一种基于图形正则化低秩表示张量与亲和矩阵的多视图聚类方法. 首先, 提出一个统一的框架学习多视图子空间的图正则低秩表示张量和亲和矩阵; 其次, 进一步通过基于张量核范数的张量奇异值分解分析高阶交叉视图关联性, 并利用图形正则化保留嵌入在高维空间中的局部结构; 最后, 利用约束二次规划为每个视图分配自适应权重. 在7个数据集上的实验结果证明了该方法聚类效果更好.     

基于K-L算法的投影图正则非负矩阵分解

通过对投影非负矩阵分解(PNMF)增加数据点及其邻近点的约束,提出一种基于图正则化的投影非负矩阵分解(PGNMF)方法。PGNMF保留了数据在低维特征空间中局部几何结构的同时又对系数矩阵进行稀疏约束,既减少了存储空间,也提高了算法效率。理论分析和数据实验都验证了该算法的有效性。     

半监督凸非负矩阵分解

基于流形正则化思想,提出了半监督凸非负矩阵分解算法.该算法通过类间图和类内图刻画数据的内在几何结构,使得所提算法不但具有数据矩阵凸分解特性,而且保持它的几何结构和判别信息.最后,人脸数据集上的实验研究表明所提算法能够获得良好的识别性能.     

基于谱正则化算法的大数据矩阵完备化研究

矩阵完备化是基于部分观测数据来完成全部矩阵预测的问题.随着互联网技术的发展,大数据时代的来临,大数据矩阵中大多数据依然是空白的,需要补充,即大数据存在矩阵完备化的问题.本文利用谱正则化模型和算法来解决大数据的矩阵完备化问题,该方法将矩阵完备化问题整理成核范数最小二乘问题,再通过截断奇异值分解、软输入算法和硬输入算法给出了一系列正则化低秩解.最后基于实际的Netflix 大数据的实验结果证明了本文的方法.     

基于低秩和全变差正则化的图像压缩感知重构

为了解决基于低秩正则化的图像压缩感知重构算法不能充分利用图像局部梯度稀疏特性的问题,提出了一种基于低秩与全变差正则化的图像压缩感知重构算法.首先,通过图像块匹配法寻找结构相似的图像块,组成非局部相似块组;其次,联合相似块矩阵低秩与图像梯度稀疏先验组成正则化项,结合传统的压缩感知模型形成新模型;最后,采用交替方向乘子法实现图像的重构.测试图像为自然灰度图像,为了验证算法的有效性,从主观视觉和峰值信噪比两方面进行对比.试验结果表明,和基于低秩正则化的图像压缩感知算法相比,该算法在准确描述图像非局部自相似性结构特征的前提下提高了重构质量,重构的图像在峰值信噪比上平均提升1 d B.     

一种多流形正则化的多视图非负矩阵分解算法

在大数据时代,多视图数据普遍存在.多视图聚类是分析多视图数据的一种常用方法.基于多流形正则化非负矩阵分解的多视图聚类是一种极具竞争力的多视图聚类算法,但该算法没有考虑非负矩阵分解的簇排列问题,并且在实验中没有考虑每个视图的差异性.基于上述问题,提出一种优化的多流形正则化的多视图非负矩阵分解算法.该算法的关键问题包括如何利用多视图信息聚类以及如何融合多流形.对多视图数据聚类时,令所有视图的数据共享一个低维的子矩阵,并且最小化所有视图的加权目标函数,从而体现每个视图对聚类的重要性并确保所有非负矩阵分解的簇排列的一致性.在融合多流形信息时,使用基于多视图谱聚类的权重计算方法,加权寻找一致的流形,从而体现每个视图中流形的重要性.实验结果表明,提出的优化策略可以提高多视图聚类的效果.     

基于自适应图调节和低秩矩阵分解的鲁棒聚类

聚类是数据挖掘和机器学习领域的重要研究内容,一般会先基于数据样本构建相似图,再基于相似图将样本划分到相应的类中。但是真实的数据经常被损坏,导致学习的相似图不准确,从而直接影响聚类结果。为解决这些问题,提出一种面向鲁棒聚类的自适应图调节和低秩矩阵分解的方法,该方法的核心思想是:将原始数据X分解为纯净数据D和噪声数据S,再基于纯净数据构造拉普拉斯矩阵并进行自适应图调节。随后,给出一个联合学习框架,将数据分离、自适应图正则、噪声消除和低秩矩阵分解集成到一个目标函数中。利用增广拉格朗日乘子法分别更新变量。最后,在理论上证明算法的收敛性并进行实验。实验结果表明所提出的方法与现有一些方法相比有一定优越性。     

低秩张量分解的多视角谱聚类算法

针对传统多视角学习算法只关注从多视角中提取共享信息而忽略了各视角的特有信息和高阶关联的问题,提出了一种基于截断核范数的低秩张量分解的多视角谱聚类算法。计算各视角的样本相似度矩阵和转移概率矩阵,构建一个包含各视角马尔可夫转移概率矩阵的张量,从而保留各个视角的信息。采用基于张量奇异值分解的截断核范数约束目标张量的秩。通过最小化张量截断核范数,学习到一个既包含各个视角共享信息又具有高阶关联的张量。利用迭代最优化算法求解目标函数,将求得的目标张量输入谱聚类算法得到聚类结果。在4个不同类型数据集上进行实验并与传统聚类算法进行了对比,结果表明:所提算法在4个数据集上的标准互信息度量值比标准谱聚类算法的分别提高了7.9%、24.9%、29.5%、8.1%,比LT-MSC算法的分别提高了3.4%、18.1%、17.6%、6.6%。通过对非负平衡参数在0.000 1～100之间的测试发现,所提算法表现基本稳定,在非负平衡参数取0.1～1之间表现良好。与传统多视角聚类算法相比,所提算法可有效增强各视角之间的互补性和高阶关联,并且具有良好的准确性和鲁棒性。     

一种自适应非负矩阵分解算法

首先, 通过引入自适应策略, 提出一种基于梯度下降自适应策略的非负矩阵分解算法. 其次, 通过比较重构非负矩阵的距离度量并自适应调节分解, 解决了传统非负矩阵分解方法在求解过程引入的随机性和基向量数目问题, 且该算法生成的基向量更具代表性. 最后, 以对吉林大学某学院本科生成绩进行分析和验证为例考察算法的有效性. 实验结果表明, 自适应非负矩阵分解方法重构矩阵较传统非负矩阵方法的鲁棒性更好, 并将错误率降低20.16%.     

低秩矩阵和结构化稀疏分解的视频背景差分方法

针对基于矩阵分解的视频前景检测传统算法中忽视前景元素之间相关性会导致检测结果容易受噪声干扰和运动目标检测不完整等问题,提出了一个低秩矩阵和结构化稀疏分解的视频背景差分算法。该算法充分考虑到视频前景区域的结构化分布特征,利用结构化稀疏范数对前景进行约束;针对矩阵分解方法中参数选择的难题,采用了一种基于运动显著性判定的两步法来实现动态背景去除和正则化参数的自适应选择,即第一步利用低秩和结构化稀疏分解获得运动候选块,第二步对运动候选块进行显著性分析并利用自适应正则化参数的块稀疏分解进行前景检测。实验结果表明:与现有的基于矩阵分解的前景检测方法相比,该算法能够更加适应复杂多变的视频环境,在I2R测试库中检测出的前景有较高的精确度和召回率。     

基于核相关性保持的子空间聚类算法

针对基于自表示的子空间聚类算法仅线性重建原始数据而忽略了数据流形结构的问题,提出一种核相关性保持的子空间聚类(SCKCP)模型,该模型旨在学习一个用于谱聚类的高质量关系图。首先,在可再生核希尔伯特空间中最小化核矩阵的重构误差,使学习到的关系图能够有效地捕获原始数据的全局结构关系;其次,松弛的块对角正则化项使关系图保持利于聚类的块对角结构。实验表明,在7个基准数据集上,与6种流行的聚类方法所获得的最高精度相比,SCKCP的聚类精度(ACC)提升24. 11%,标准互信息(NMI)提升16. 87%。     

基于正则化正交非负矩阵分解的旋转目标检测方法

小样本的旋转目标检测是指在样本数少的情况下进行旋转目标检测模型的训练，深度学习在旋转目标检测领域往往需要庞大的样本数和计算算力。现有的基于机器学习的旋转目标检测方法大多有着对目标尺度和姿态敏感的缺点。因此提出一种基于正则化正交非负矩阵分解的旋转目标检测方法，来解决小样本的旋转目标检测难题。首先，针对样本不具有各种角度的图片，对样本进行旋转后进行背景填充，这样便于更好的表征学习。其次，提出一种基于正则化正交非负矩阵分解算法对旋转样本的梯度直方图特征进行表征学习。最后，为了测试算法在特征学习后的有效性，利用支持向量机对特征提取后的数据进行训练和测试。实验结果表明本文的目标检测方法在多个数据集中可以取得不错的效果。     

k正则偶图对集矩阵的分解定理

证明了一个ｎ阶非负实矩阵可分解为某些ｎ阶置换矩阵的线性组合的定理，由此得到了ｋ－正则偶图的对集矩阵的分解定理，这些定量衣其证明给出了ｋ－正则偶图的完美匹配的构造方法，并举例说明对集矩阵的分解不是唯一的。     

基于双核范数鲁棒矩阵分解的遮挡图像恢复

低秩矩阵分解是计算机视觉、机器学习和数据挖掘中普遍使用的数据分析工具.矩阵分解方法可用于连续遮挡的图像数据的恢复,而低秩矩阵分解可转化为核范数优化模型.为了增强矩阵分解模型的鲁棒性,提出基于双核范数的鲁棒矩阵分解方法,该方法将每个数据矩阵分解为低秩干净数据、低秩噪声数据和稀疏噪声数据之和.建立最小化矩阵双核范数与L1范...     

非负矩阵分解算法在遥感图像融合中的应用

研究了非负矩阵分解(NMF)方法在遥感图像融合中的几种应用.在多光谱图像与全色图像融合的过程中,采用了非负矩阵分解融合算法,非负矩阵分解与主成分结合(N_PCA)的融合算法,非负矩阵分解与提升小波变换结合的融合算法,通过对各融合图像的目视判定及统计参数判定,分析评价这些算法在遥感图像融合中的性能差异.研究实验证明非负矩阵分解算法应用于遥感图像融合处理,具有较好的融合效果,非负矩阵分解算法,非负矩阵分解与主成分结合的融合算法,非负矩阵分解与提升小波变换结合的融合算法在遥感图像融合中的性能优于传统的主成分融合算法(PCA),其中,非负矩阵分解与提升小波变换结合的融合算法的性能最为优异.     

基于子空间表示和加权低秩张量正则化的高光谱图像混合噪声去除方法

针对高光谱图像中存在混合噪声的问题, 提出一种基于子空间表示和加权低秩张量正则化的方法去除高光谱图像中的混合噪声. 子空间表示利用光谱频带之间的相关性, 选取合适的正交矩阵, 将高光谱图像投影到低维子空间中, 使提出的算法具有较低的复杂度, 简化去噪过程的同时去除图像中的部分噪声. 去噪过程基于从简化图像中提取的低秩张量进行, 引入加权低秩张量正则化项表征简化图像子空间的先验信息, 基于Tucker分解中核范数的物理意义构建合理的加权机制, 保留高光谱图像的内在结构相关性. 并且设计了一种基于迭代最小化的方法, 用于求解提出的非凸去噪模型. 在模拟和真实数据集上的实验结果表明, 该子空间表示和加权低秩张量正则化方法在定量和定性分析上都取得了较好的去噪效果.     

一种非负矩阵分解的快速稀疏算法

提出了一种非负矩阵分解的快速稀疏算法,该算法有利于处理高维小样本数据.在非负矩阵分解的过程中,通过代数变换,将原高维n×m阶的非负矩阵分解转化成低维m×m阶非负矩阵分解,大大提高了分解速度.在目标函数中加入了约束稀松度的项,通过控制稀松度,提高分解得到的潜在语义信息,改进文档集的话题划分,并能快速提取主题相关的语句生成文摘.