基于张量分解的鲁棒核低秩表示算法研究

低秩表示算法,如低秩表示（Low-Rank Representation, LRR）,鲁棒核低秩表示（Robust Kernel Low-Rank Representation, LRRRKLRR）,在处理高维数据方面展现了广阔的应用前景,然而这些方法并不适合高阶数据,传统的低秩表示算法通常只对数据的某一特征属性进行降维。在本文中,我们提出了基于张量分解的鲁棒核低秩表示算法（Kernel Low-Rank Representation by Robust Tensor Decomposition, RTDKLRR）,该算法能够处理高阶非线性的张量数据,对噪声更加鲁棒。本文首先对RTDKLRR算法设计目标函数并给出约束条件,其次,设计迭代规则对目标函数进行优化。在合成数据集和真实数据集上的实验结果表明,我们的算法优于同类算法。     

增强的张量鲁棒主成分分析模型及其应用

鲁棒主成分分析（RPCA）是处理图像恢复和背景建模问题的常用模型。针对原始RPCA及其改进模型对输入数据低秩结构的依赖性过强问题，提出一个增强的张量鲁棒主成分分析模型（E-TRPCA）并构造了一个新的增强张量核范数（E-TNN）正则项。E-TNN基于张量数据的低维子空间投影约束其低秩性，可以更真实地反映张量数据的潜在结构，增强模型的泛化性。利用交替方向乘子算法（ADMM）对目标函数进行优化求解，在图像去噪和背景建模上的实验结果表明所提方法在图像恢复效果和运行时间方面要优于当前的其他方法。     

增强的张量鲁棒主成分分析模型及其应用

鲁棒主成分分析（RPCA）是处理图像恢复和背景建模问题的常用模型。针对原始RPCA及其改进模型对输入数据低秩结构的依赖性过强问题，提出一个增强的张量鲁棒主成分分析模型（E-TRPCA）并构造了一个新的增强张量核范数（E-TNN）正则项。E-TNN基于张量数据的低维子空间投影约束其低秩性，可以更真实地反映张量数据的潜在结构，增强模型的泛化性。利用交替方向乘子算法（ADMM）对目标函数进行优化求解，在图像去噪和背景建模上的实验结果表明所提方法在图像恢复效果和运行时间方面要优于当前的其他方法。     

基于低秩投影与稀疏表示的人脸识别算法

当训练和测试图像同时受到污损时,人脸识别的性能会急剧下降。为了解决这一问题,提出了一种新的人脸识别算法。首先利用鲁棒主成分分析(robust principal component analysis,RPCA)方法得到训练样本的低秩部分;然后基于原始训练样本及其低秩部分得到低秩投影矩阵,该矩阵可以对存在污损的测试图像进行恢复;最后使用稀疏表示分类(sparse representation based classification,SRC)算法对恢复后的测试图像进行分类。在两个公开数据库上进行实验,实验结果证明了本文算法的有效性,同时识别性能优于SRC及线性回归分类(linear regression classification,LRC)方法,能在一定程度上处理样本数据受到污损的情况。     

分布式低秩张量子空间聚类算法

现有基于低秩表示的子空间聚类算法(LRR)无法有效地处理大规模数据,聚类正确率不高,以及分布式低秩子空间聚类算法(DFC-LRR)不能直接处理高维数据.为此,文中提出了一种基于张量和分布式方法的子空间聚类算法.该算法首先将高维数据视为张量,在数据的自表示中引入张量乘法,从而将LRR子空间聚类算法拓展到高维数据;然后采用分布式并行计算得到低秩表示的系数张量,并对系数张量的每个侧面切片稀疏化,得到稀疏相似度矩阵.在公开数据集Extended YaleB、COIL20和UCSD上与DFC-LRR的对比实验结果表明,文中算法能有效地提高聚类正确率,且分布式计算能明显降低算法的运行时间.     

基于图形正则化低秩表示张量与亲和矩阵的多视图聚类

针对聚类中忽略局部结构、 低秩表示张量与亲和矩阵高度依赖性等问题, 提出一种基于图形正则化低秩表示张量与亲和矩阵的多视图聚类方法. 首先, 提出一个统一的框架学习多视图子空间的图正则低秩表示张量和亲和矩阵; 其次, 进一步通过基于张量核范数的张量奇异值分解分析高阶交叉视图关联性, 并利用图形正则化保留嵌入在高维空间中的局部结构; 最后, 利用约束二次规划为每个视图分配自适应权重. 在7个数据集上的实验结果证明了该方法聚类效果更好.     

低秩张量补全算法综述

随着现代信息技术的快速发展,待分析的数据大都具有很复杂的结构。在获取高维多线性数据的过程中,部分元素可能丢失,低秩张量补全就是根据数据集的低秩性质来恢复出所有丢失元素。低秩张量补全是压缩感知理论的高阶推广,在数学上可以描述为核范数最小化问题。对求解低秩张量补全的核范数最小化模型的现有算法进行了综述。介绍了张量的基础知识和低秩张量补全模型,给出了低秩张量补全的几种主流算法,如:简单低秩张量补全、高精度低秩张量补全以及核心张量核范数的张量补全等,指出了现有低秩张量补全算法中值得研究与改进的方向。     

低秩张量分解的多视角谱聚类算法

针对传统多视角学习算法只关注从多视角中提取共享信息而忽略了各视角的特有信息和高阶关联的问题,提出了一种基于截断核范数的低秩张量分解的多视角谱聚类算法。计算各视角的样本相似度矩阵和转移概率矩阵,构建一个包含各视角马尔可夫转移概率矩阵的张量,从而保留各个视角的信息。采用基于张量奇异值分解的截断核范数约束目标张量的秩。通过最小化张量截断核范数,学习到一个既包含各个视角共享信息又具有高阶关联的张量。利用迭代最优化算法求解目标函数,将求得的目标张量输入谱聚类算法得到聚类结果。在4个不同类型数据集上进行实验并与传统聚类算法进行了对比,结果表明:所提算法在4个数据集上的标准互信息度量值比标准谱聚类算法的分别提高了7.9%、24.9%、29.5%、8.1%,比LT-MSC算法的分别提高了3.4%、18.1%、17.6%、6.6%。通过对非负平衡参数在0.000 1～100之间的测试发现,所提算法表现基本稳定,在非负平衡参数取0.1～1之间表现良好。与传统多视角聚类算法相比,所提算法可有效增强各视角之间的互补性和高阶关联,并且具有良好的准确性和鲁棒性。     

一种新的基于非凸秩近似的鲁棒主成分分析模型

在机器学习、数据挖掘和图像处理等研究领域,鲁棒主成分分析(RPCA)主要用于恢复一个低秩的数据矩阵。考虑到核范数作为矩阵秩函数的凸近似在处理实际数据集时存在的问题,以及矩阵秩函数的非凸近似所展现出的优势,提出了一种新的非凸近似函数。基于该非凸近似函数,提出一个改进的RPCA模型,并应用增广拉格朗日乘子法对其进行求解。最后利用视频背景分离的实际数据,通过数值实验验证了新模型的有效性。     

一种新的基于非凸秩近似的RPCA模型

在机器学习、数据挖掘和图像处理等研究领域,鲁棒主成分分析(RPCA)主要用于恢复一个低秩的数据矩阵。考虑到核范数作为矩阵秩函数的凸近似在处理实际数据集时存在的问题,以及矩阵秩函数的非凸近似所展现出的优势,本文提出了一种新的非凸近似函数。基于该非凸近似函数,提出一个改进的RPCA模型,并应用增广拉格朗日乘子法对其进行求解。最后利用视频背景分离的实际数据,通过数值实验验证了新模型的有效性。     

基于RPCA的群稀疏表示人脸识别方法

针对训练样本图像和测试样本图像均存在光照、污染、遮挡等情况下的人脸识别问题,提出一种基于鲁棒主成分分析的群稀疏表示人脸识别方法(group sparse representation face recognition method based on robust principal component analysis, GSR-RPCA)。该方法将人脸图像由空域变换到对数域,增强人脸图像的对比度,并通过结构非相关鲁棒主成分分析算法从训练样本图像矩阵D中分解出干净的低秩部分人脸图像矩阵A和误差图像矩阵E,以增强恢复数据的鉴别力;学习A与D之间的低秩映射关系矩阵P,并用P将存在遮挡的测试样本映射到其潜在的子空间下,得到干净的测试样本y;计算y在A上的群稀疏表示系数,并利用类关联重构残差对测试人脸进行识别,获得测试人脸的所属类别。在CMU PIE,Extended Yale B和AR数据库上的实验结果显示,提出方法具有较高的识别率和较强的鲁棒性。     

一种稀疏图正则化的非负低秩矩阵分解算法

非负矩阵分解方法(non-negative matrix factorization,NMF)广泛应用于图像聚类、计算机视觉、信息检索等领域。但是,现有的NMF方法还存在一些不足之处：①NMF方法直接在高维原始图像数据集上计算它的低维表示,而实际上原始图像数据集的有效信息常常隐藏在它的低秩结构中;②NMF方法还存在对噪声敏感以及鲁棒性差的缺点。为了提高NMF算法的鲁棒性和可解释性,提出一种稀疏图正则化的非负低秩矩阵分解算法(sparse graph regularized non-negative low-rank matrix factorization,SGNLMF)。通过低秩约束和图正则化,SGNLMF算法同时利用了数据的几何信息和有效低秩结构;此外,SGNLMF算法还对基矩阵加以稀疏约束,使得其鲁棒性和可解释性均有一定的提升。还提出了一种求解SGNLMF的迭代算法,并从理论上分析了该求解算法的收敛性。通过在ORL和YaleB数据库上的实验结果表明SGNLMF算法的有效性。     

基于正则化协同表示的鲁棒PCA人脸识别

针对人脸图像复杂环境变化,提出了一种基于正则化协同表示的鲁棒PCA人脸识别算法。算法首先通过协同表示计算重构样本与测试样本之间的残差,根据残差选取与测试样本临近的训练样本组成新的字典;然后在该字典上通过鲁棒PCA依次进行低秩误差分解,并计算误差矩阵的平滑性、稀疏性;最后联合协同表示的残差以及低秩分解中的平滑性和稀疏性构建判别准则进行人脸图像的分类识别;在ORL、AR等人脸库的实验表明:基于正则化协同表示的鲁棒PCA人脸识别算法不仅能够在复杂环境变化下取得良好的识别性能,而且保持了协同表示的优势,大大减少运行时间。     

基于张量距离的高阶近邻传播聚类算法

近邻传播算法(AP)不需要事先指定聚类数目,在程序运行过程中,能够自动识别聚类中心及聚类数目。在同一批数据集上,AP算法聚类结果稳定,鲁棒性好。除此之外,AP聚类算法可以采用多种距离度量方式,聚类结果精确。针对近邻传播算法(AP)不能对异构数据进行聚类的问题,提出一种基于张量距离的高阶AP聚类算法。该算法首先利用张量表示异构数据对象,然后将张量距离引入AP聚类算法,用来度量异构数据对象在张量空间的相似度。张量距离的引入,不但能够度量异构数据对象在数值上的差异,同时能够度量异构数据对象在高阶空间中位置的差异性,有效的捕捉异构数据对象的分布特征。实验结果表示,提出的高阶AP算法能够有效的对异构数据对象进行聚类。     

基于箱式约束RPCA的运动目标检测

为克服运动目标检测中光照变化、阴影干扰等的影响,提出了一种具有箱式约束的鲁棒主成分分析方法,用于带阴影的视频运动目标检测。该方法建模时首先将输入的视频数据分解为低秩背景、稀疏前景与阴影3个部分;接着在传统鲁棒主成分分析模型的基础上对阴影变量施加箱式约束,利用Powell-HestenesRockafellar增广拉格朗日乘子法将上述约束转化为目标函数的惩罚函数项,推导了3个子问题的闭合解,并用交替方向法对模型进行求解;最后在公开数据集上对该方法进行了测试。实验结果表明,该方法能够在检测运动目标的同时去除阴影,场景适应性较好。     

基于L_1-范数的鲁棒稀疏的张量PCA人脸图像分析

张量主成分分析(Tensor Principal Component Analysis,TPCA)是主成分分析(Principal Component Analysis,PCA)在多维空间上的推广,能充分利用图像/视频的空间关联,在图像分析和视频处理中扮演了重要的角色.传统的张量PCA方法提取的特征向量是非稀疏的,这使得其很难进行解释.近年来出现了众多稀疏PCA方法,能提取只包含少量非零元的特征.把稀疏特征提取引入到张量分析,提出一种鲁棒稀疏的张量PCA方法(TPCAL1S).首先,设计了能实现稀疏特征提取的目标函数.一方面,用L1范数代替Frobenius-范数,使得算法对异常数据更加鲁棒;另一方面,在目标函数中引入弹性网,联合使用Lasso与Ridge惩罚因子来实现稀疏化,增强了算法的语义解释性.然后,设计了一种基于二阶张量的投影矩阵交替求解算法,二阶张量便于数学描述,也易于推广到更高阶张量.此求解算法分为两个步骤(V,U分别表示左投影矩阵和右投影矩阵),先固定U优化V,再固定V的值优化U,两个步骤反复交替执行,直到收敛.每个步骤都采用贪心算法以迭代的方式逐个特征提取以求得U或V.最后,对迭代过程的单调性做了理论证明.基于ORL,Yale和Feret库,将TPCA-L1S应用于人脸图像分析并与其他常见方法作比较,实验结果验证了该模型的有效性.     

基于加权核范数最小化的红外弱小目标检测

提出一种基于加权核范数最小化的红外弱小目标检测方法.该方法将原始红外图像转化为新的红外块图像模式,在红外块图像上,以鲁棒主成分分析(RPCA)为基础,将图像数据矩阵分解为一个低秩矩阵和一个稀疏矩阵;针对RPCA模型对复杂背景描述能力弱的不足,引入了加权核范数来更好地描述背景的低秩特性,并给出了相应的优化求解算法;同时,给出了一种自适应阈值分割方法,准确地从稀疏目标图像中提取出弱小目标.基于天空、海洋、山地、沙漠4种不同场景进行红外弱小目标检测,并比较了该算法和已有算法的性能,结果表明:该算法能有效地降低复杂背景边缘产生的虚警,提高目标检测准确率.     

基于张量秩校正的图像恢复方法

针对医学图像和视频图像的恢复问题,基于张量表示,研究有限样本下的低秩张量数据恢复问题,在张量奇异值分解(t-SVD)理论的基础上,提出了张量秩校正模型和两阶段张量秩校正方法,第一阶段是用张量核范数最小化模型求得预估解,第二阶段,根据预估解,求解张量秩校正模型,获得更高精度的解.构建了求解张量秩校正模型和张量核范数最小化模型的张量近似点算法,使得可以在实数域上对张量直接进行计算,并且从理论上证明了该算法的收敛性.通过对医学图像和视频图像的数值仿真实验,验证了本文所提出模型和方法的有效性,实验结果显示,张量秩校正模型和方法能够取得更高的恢复精度.     

一种自适应的鲁棒性矩阵补全方法

针对传统矩阵补全无约束优化模型在处理奇异噪声损坏的缺失矩阵时鲁棒性较差的问题, 提出一种自适应的鲁棒性矩阵补全方法. 该方法在目标函数中使用截断核范数作为秩函数旳低秩逼近, 并采用对奇异噪声鲁棒的F范数作为损失项恢复矩阵中的缺失值, 以降低异常值对算法的影响, 提高恢复精确度. 在求解该模型过程中, 先采用凸优化技巧引入一个动态权重参数, 此参数可在更新恢复值时根据当次恢复误差大小自适应地调节下一次更新, 再进一步建立求解优化问题的有效迭代方法. 实验结果表明, 该算法在处理被奇异噪声损坏的矩阵时有较好的鲁棒性和精确性, 从而可得到更好的图像修复效果.     

基于低秩表示的判别特征提取算法

为了更好地获取高维数据的特征,提出一种特征提取算法——低秩判别映射. 首先基于低秩表示构造代表样本关联性的关联矩阵,然后利用关联矩阵应用判别准则. 低秩表示以样本作为基函数,利用所有样本构建关联矩阵,其构造特点决定了关联矩阵能够很好地体现样本集的全局结构和样本之间的判别关系. 人脸数据集的实验表明,低秩判别映射优于其他广泛应用的特征提取方法.