一种多流形正则化的多视图非负矩阵分解算法

在大数据时代,多视图数据普遍存在.多视图聚类是分析多视图数据的一种常用方法.基于多流形正则化非负矩阵分解的多视图聚类是一种极具竞争力的多视图聚类算法,但该算法没有考虑非负矩阵分解的簇排列问题,并且在实验中没有考虑每个视图的差异性.基于上述问题,提出一种优化的多流形正则化的多视图非负矩阵分解算法.该算法的关键问题包括如何利用多视图信息聚类以及如何融合多流形.对多视图数据聚类时,令所有视图的数据共享一个低维的子矩阵,并且最小化所有视图的加权目标函数,从而体现每个视图对聚类的重要性并确保所有非负矩阵分解的簇排列的一致性.在融合多流形信息时,使用基于多视图谱聚类的权重计算方法,加权寻找一致的流形,从而体现每个视图中流形的重要性.实验结果表明,提出的优化策略可以提高多视图聚类的效果.     

L_(3/2)正则化图非负矩阵分解算法

基于图正则化非负矩阵分解算法(GNMF),提出一种基于凸光滑的L3/2范数正则化图非负矩阵分解算法.该算法用非负矩阵分解算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构,并对数据的低维表示特征进行凸光滑的L3/2范数稀疏性约束,在给出算法更新迭代规则的同时,从理论上证明了所给算法的收敛性.通过人脸数据库ORL、手写体数据库USPS和图像库COIL20的仿真实验表明,相对于非负矩阵分解算法及其基于稀疏表示的改进算法,所给算法均具有更高的聚类精度.     

截断式鲁棒非负矩阵分解算法

非负矩阵分解算法(Nonnegative Matrix Factorization Algorithm,NMF)已经广泛地应用于诸多领域,但它容易受到异常点的影响.各种针对这个问题的改进方法中,使用L2,1范数的鲁棒非负矩阵算法(Robust Nonnegative Matrix Factorization Algorithm,RNMF)取得了较好的改进效果,但是该算法不能很好的适应数据集异常点比例的变化.针对这一缺点,提出了截断式鲁棒非负矩阵分解算法(Capped Robust Nonnegative Matrix Factorization Algorithm,CRNMF),将去噪比例ε值引入到目标函数中,降低异常点对整体算法的影响.该算法的主要步骤是:在矩阵分解迭代更新的每一步中,计算输入数据与分解因子重构值之间的误差,将误差大于预先设定参数值ε的数据点对应的误差截断为零,重复以上步骤直到收敛.通过ε截断操作,降低基矩阵F和系数矩阵G受异常点的影响.给出了CRNMF的算法描述,并且在模拟数据集和真实数据集进行了实验,实验表明提出的算法与传统的NMF和RNMF相比,可以在一定程度上提高聚类的准确度,减少了异常点对聚类准确度的影响,提高了算法的鲁棒性.     

半监督凸非负矩阵分解

基于流形正则化思想,提出了半监督凸非负矩阵分解算法.该算法通过类间图和类内图刻画数据的内在几何结构,使得所提算法不但具有数据矩阵凸分解特性,而且保持它的几何结构和判别信息.最后,人脸数据集上的实验研究表明所提算法能够获得良好的识别性能.     

基于流形正则化判别的因子分解

通过对非负矩阵分解(non-negative matrix factorization,NMF)和因子分解(concept factorization,CF)的分析,针对它们无法核化或忽略数据几何结构和判别信息的问题,提出了基于流形正则化判别的因子分解算法(manifold regularized-based discriminant concept factorization,MRCF).该算法用CF算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构;利用样本的标签信息,进行监督学习,给出算法多步更新规则,理论上证明了MRCF算法的收敛性.在人脸数据库ORL、图像库COIL20和手写体数据库USPS上的仿真结果表明,相对于NMF、CF及其一些改进算法,MRCF均具有更高的聚类精度.     

基于非负矩阵分解的阴影检测方法

针对以往的矩阵分解方法不能保证分解结果非负的问题, 根据非负矩阵分解（NMF: Non negative Matrix Factorization）结果非负的特点, 提出了基于NMF的阴影检测方法, 并以此为基础将进一步引入的分块非负矩阵分解（BNMF: Block Non negative Matrix Factorization）应用于阴影检测。通过NMF/BNMF提取训练样本中阴影的亮度特征, 再根据特征识别测试样本中的阴影区域。实验结果表明,与基于奇异值分解方法相比, 该算法的阴影检测细节更清晰, 具有更好的效果。     

学习一致相似度矩阵的图非负矩阵分解

非负矩阵分解(NMF)是一种有效的数据降维方法,广泛应用于图像聚类等领域.然而,NMF不能捕获数据固有的几何结构,所以基于图的非负矩阵分解被提出.基于图的算法大多使用K-近邻来构造相似度图.由于数据中的异常值和错误特征,直接构造图是不准确的.针对上述问题,提出了基于学习一致性相似度矩阵的图非负矩阵分解方法.该方法首先通...     

基于图形正则化低秩表示张量与亲和矩阵的多视图聚类

针对聚类中忽略局部结构、 低秩表示张量与亲和矩阵高度依赖性等问题, 提出一种基于图形正则化低秩表示张量与亲和矩阵的多视图聚类方法. 首先, 提出一个统一的框架学习多视图子空间的图正则低秩表示张量和亲和矩阵; 其次, 进一步通过基于张量核范数的张量奇异值分解分析高阶交叉视图关联性, 并利用图形正则化保留嵌入在高维空间中的局部结构; 最后, 利用约束二次规划为每个视图分配自适应权重. 在7个数据集上的实验结果证明了该方法聚类效果更好.     

基于流形正则化非负矩阵分解预测药物-靶蛋白作用关系

识别药物-靶蛋白作用关系是当前药物研究的重要内容,其可帮助识别已有药物的新功能,发现药物的"偏靶蛋白"等。现有预测算法对新药物的作用靶蛋白,及新靶蛋白的作用药物预测存在困难,由此提出一种新奇的基于流形正则化非负矩阵分解的新药物/新靶蛋白作用关系预测算法,该方法首先通过聚类算法构建新药物/新靶蛋白的初始作用标签,然后设计引入流形学习正则化约束的非负矩阵分解算法预测药物-靶蛋白作用关系,最后在四个经典数据集中测试,并与最新预测算法BLM-NII、RLS-WNN和WKNKN+WGRMF算法进行比较,证明本文算法可获取较高的预测精度。     

一种基于NMF的零水印算法

提出一种基于非负矩阵分解(Non-negative Matrix Factorization, NMF)构造密钥的二值零水印算法.先对载体图像进行NMF变换得到基于部分表示的基矩阵和相应的系数矩阵;再将水印置乱并扩展为系数矩阵的大小,比较相同位置上的二值水印与系数阵元素二进制编码的某个高位面值;当结果相同时,标记其位置在一个空白矩阵中,该矩阵随后作为密钥来检测水印.经过这样处理,水印信息嵌入到系数阵元素的高位面却并没有改变其值,使得嵌入水印图像表现出较好的抗攻击性能.通过与DCT零水印算法的比较实验,证明了本文算法的有效性.     

基于非负矩阵分解的隐含语义图像检索

提出了一种基于非负矩阵分解(Non-negative Matrix Factorization,NMF)的隐含语义索引(Latent Semantic Indexing,LSI)模型用于图像检索.应用NMF训练算法构造了一个语义空间,将查询图像和原型图像都投影到该空间以获得语义特征,在此空间中进行相似性的度量并将距离最近的图像返回给用户.与已有两种检索模型的实验结果对比表明,所提出模型是有效的.     

一种稀疏图正则化的非负低秩矩阵分解算法

非负矩阵分解方法(non-negative matrix factorization,NMF)广泛应用于图像聚类、计算机视觉、信息检索等领域。但是,现有的NMF方法还存在一些不足之处：①NMF方法直接在高维原始图像数据集上计算它的低维表示,而实际上原始图像数据集的有效信息常常隐藏在它的低秩结构中;②NMF方法还存在对噪声敏感以及鲁棒性差的缺点。为了提高NMF算法的鲁棒性和可解释性,提出一种稀疏图正则化的非负低秩矩阵分解算法(sparse graph regularized non-negative low-rank matrix factorization,SGNLMF)。通过低秩约束和图正则化,SGNLMF算法同时利用了数据的几何信息和有效低秩结构;此外,SGNLMF算法还对基矩阵加以稀疏约束,使得其鲁棒性和可解释性均有一定的提升。还提出了一种求解SGNLMF的迭代算法,并从理论上分析了该求解算法的收敛性。通过在ORL和YaleB数据库上的实验结果表明SGNLMF算法的有效性。     

基于自适应流形正则化自表示的无监督特征选择算法

针对基于流形正则化自表示(MRSR)的无监督特征选择算法直接从原始的样本空间构造相似矩阵可能会 导致重构空间中样本的相似性描述得不够准确的问题,提出了基于自适应流形正则化自表示的无监督特征选择 (AMRSR)算法。 基于自适应流形正则化自表示的无监督特征选择算法在 MRSR 算法的基础上通过对相似矩阵施 加概率最近邻约束将相似矩阵的学习嵌入到优化过程中,在重构空间中自适应地学习样本的相似性,使得在每一 次迭代中获取更加精确的样本局部几何流形结构,从而选择具有代表性且保持局部几何流形结构的特征。 最后, 在四个公开数据集上进行了大量的对比实验,通过将算法的特征选择结果用于 K-means 聚类并采取两种常见的聚 类评价指标:聚类精确度和归一化互信息评价聚类效果。 实验结果表明,AMRSR 算法与现有的一些算法相比有更 高的聚类精确度和归一化互信息,进一步表明该算法特征选择效果更好。     

非线性多视角子空间聚类方法

不同视角特征构成的数据比单视角特征具有更多的信息,充分利用多视角特征可以提高聚类效果.由于不同视角空间中的特征不具有可比性,基于线性表示理论的子空间学习方法通过学习表示矩阵挖掘互补信息.但现实数据多是非线性的,线性表示理论不利于发现数据的非线性关系.针对该问题,采用非线性投影及流形正则项来刻画多视角下的非线性数据,实验结果表明,所提方法能够对多视角数据进行有效聚类.     

噪声环境下复杂流形数据的势能层次聚类算法

基于势能的快速凝聚层次聚类算法使用一种全新的相似性度量准则,可以更高效地得到聚类结果。针对该算法无法有效处理含噪声的复杂流形数据的缺陷,提出噪声环境下复杂流形数据的势能层次聚类算法。通过势能递增曲线识别噪声点,在新定义的势能最大、最小2层数据上进行自动聚类,以确定类簇的大体框架,并在此基础上对整个数据集进行层次聚类。人工数据集上的实验表明,新算法可以有效处理噪声环境下复杂流形数据;真实数据集上的实验表明,新算法具有更优的聚类效果。     

基于可靠性的正则化加权软k-均值的子空间聚类

子空间聚类已经广泛应用于多个涉及高维数据聚类应用领域,受到机器学习研究者的广泛关注.子空间聚类方法是一种使用特征选择的聚类分析技术,通过选择重要特征子集实现对高维空间的低维表示,在实际应用中能够取得更好的性能,成为流行的高维数据聚类方法.与硬聚类方法相比,软聚类能够给出复杂数据更有意义的划分.扩展k-均值聚类并提出基于可靠性的正则化加权软k-均值新的子空间聚类方法(Reliability-based regularized weighted soft k-means clustering algorithm,RRWSKM),该方法能够计算每个特征对每个聚类的贡献度,从而找到与不同聚类相关的重要特征子集.另外,该方法能够通过调整模型参数准确地辨识数据模式,具有良好的聚类性能.该方法把维度加权熵和划分熵作为正则化项引入到目标函数,避免过拟合问题同时使更多的特征参与辨识聚类.为了提高算法的鲁棒性,使用可靠性测度获得特征权重初始值,提高算法的可靠性和性能.考虑到该算法是非凸优化问题,使用迭代优化方法得到优化问题的最优解.使用多个实际数据集对本文算法进行仿真验证,结果表明,与其他子空间聚类算法相比,该算法能够有效发现高维数据的低维表示,具有良好的聚类性能,适合高维数据的聚类.     

基于非负矩阵分解的集成人脸识别

非负矩阵分解已广泛应用于人脸识别,但因无监督、子空间线性表示、基特征局部次优等特点,它识别光照复杂、表情丰富的人脸图像的能力有限。为优化非负矩阵分解的人脸识别能力,分析并建立了非负矩阵分解的集成分类框架,整合多组基特征的弱类别结构信息,在无监督情形下利用偏最小二乘回归建立符合统计属性的集成标签映射,突显正确的类结构。通过多组人脸数据集的试验结果表明,基于非负矩阵分解的集成分类能力显著提高,适用光照复杂、表情丰富的人脸图像识别。     

对角矩阵加入指数参数的AHP算法

基于AHP线性流形学习方法是通过适当的约束条件最小化目标函数来实现的,约束条件中对角矩阵的求解限制,使得公式不够灵活,于是考虑在对角矩阵求解时加入了指数参数,对公式进行泛化.通过人脸图像聚类实验,发现指数的改变对聚类结果能够产生较大影响,针对特定的人脸聚类,可以通过调整参数达到较好的聚类效果；另外,文中还对加入高斯白噪声的人脸数据库进行了实验,考察了参数对噪声的敏感度.     

一种基于流形距离核的谱聚类和量子聚类融合算法

谱聚类是一种基于图谱划分理论的聚类算法,本质上是将聚类问题转化为图的最优划分问题;量子聚类可以充分挖掘数据样本的内在信息,是一种基于划分的无监督聚类算法.为了充分发挥谱聚类算法和量子聚类算法的优势,本文提出了一种基于流形距离核的谱聚类和量子聚类融合算法(MFD-NJW-QC).首先,计算数据集的流形距离核矩阵,构造相应的拉普拉斯矩阵;其次,根据拉普拉斯矩阵的若干最大特征值对应的特征向量构造新数据集,并使用量子聚类算法对新构造的数据集进行聚类,从而得到原始数据的类标签;最后,基于7个人工数据集和5个UCI数据集验证MFD-NJW-QC算法的聚类性能.结果显示,MFD-NJW-QC算法能够明显提高聚类性能,尤其对于具有流形结构,且类簇大小不平衡、密度分布不均匀的数据集优势更为突出.     

基于方向信息测度的非局部正则化图像去噪方法

针对非局部正则化在图像去噪过程中计算复杂度高、复原速度慢的问题,基于方向信息测度提出了改进的非局部正则化方法.在图像的边缘轮廓区域使用保边性能较好的非局部正则化方法,而在图像的平坦区域使用各向异性全变差模型,且该全变差模型由基于Bregman迭代正则化方法的快速迭代算法进行求解.实验结果表明:基于方向信息测度的非局部正则化方法在快速消除图像噪声的同时,能有效地保留图像的边缘和纹理等结构信息.