L_(3/2)正则化图非负矩阵分解算法

基于图正则化非负矩阵分解算法(GNMF),提出一种基于凸光滑的L3/2范数正则化图非负矩阵分解算法.该算法用非负矩阵分解算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构,并对数据的低维表示特征进行凸光滑的L3/2范数稀疏性约束,在给出算法更新迭代规则的同时,从理论上证明了所给算法的收敛性.通过人脸数据库ORL、手写体数据库USPS和图像库COIL20的仿真实验表明,相对于非负矩阵分解算法及其基于稀疏表示的改进算法,所给算法均具有更高的聚类精度.     

自适应样本加权的多视图聚类算法

将原始数据投影到一个包含几何一致性和簇分配一致性的空间,并且可以自适应学习几乎所有参数的多视图聚类算法,能够获得良好的聚类效果,但这样做没有考虑多视图中不同样本重要性不同的特点,忽视了噪声点与离群点对聚类效果造成的不利影响.针对上述问题,对样本重要性进行研究,提出一种自适应样本加权的多视图聚类算法.该算法对视图中不同的样本根据其重要性进行加权处理:首先给每个样本分配相同的权重,在之后的每次迭代中,不断进行自适应调整直至达到收敛条件.实验结果表明,该算法可以获得更好的实验效果.     

基于图形正则化低秩表示张量与亲和矩阵的多视图聚类

针对聚类中忽略局部结构、 低秩表示张量与亲和矩阵高度依赖性等问题, 提出一种基于图形正则化低秩表示张量与亲和矩阵的多视图聚类方法. 首先, 提出一个统一的框架学习多视图子空间的图正则低秩表示张量和亲和矩阵; 其次, 进一步通过基于张量核范数的张量奇异值分解分析高阶交叉视图关联性, 并利用图形正则化保留嵌入在高维空间中的局部结构; 最后, 利用约束二次规划为每个视图分配自适应权重. 在7个数据集上的实验结果证明了该方法聚类效果更好.     

半监督凸非负矩阵分解

基于流形正则化思想,提出了半监督凸非负矩阵分解算法.该算法通过类间图和类内图刻画数据的内在几何结构,使得所提算法不但具有数据矩阵凸分解特性,而且保持它的几何结构和判别信息.最后,人脸数据集上的实验研究表明所提算法能够获得良好的识别性能.     

基于多视图加权聚类集成的高速列车工况识别

随着中国高速列车行业的快速发展,高速列车运行所产生的安全隐患问题引发了更多的关注.由于利用传感器所采集到的高速列车监测数据具有非线性、非平稳的特点,导致故障工况难以识别,为此提出一种基于加权非负矩阵的多视图聚类集成模型(weighted non-negative matrix factorization,WNMF)来对车体走行部的故障工况进行识别.首先,对振动信号进行频域、时频域、时域的分析,通过快速傅里叶变换、小波包能量、经验模态分解的近似熵和模糊熵、机械统计特征四个方面提取特征向量,构建四个特征视图;其次进行K-means聚类,得到每个视图的结果;再通过聚类成员的贡献度和相似度分别求取各视图的两种权值;最后进行加权的非负矩阵分解集成.实验结果表明,该模型能够有效地识别高速列车的故障工况.     

基于流形正则化判别的因子分解

通过对非负矩阵分解(non-negative matrix factorization,NMF)和因子分解(concept factorization,CF)的分析,针对它们无法核化或忽略数据几何结构和判别信息的问题,提出了基于流形正则化判别的因子分解算法(manifold regularized-based discriminant concept factorization,MRCF).该算法用CF算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构;利用样本的标签信息,进行监督学习,给出算法多步更新规则,理论上证明了MRCF算法的收敛性.在人脸数据库ORL、图像库COIL20和手写体数据库USPS上的仿真结果表明,相对于NMF、CF及其一些改进算法,MRCF均具有更高的聚类精度.     

基于相关熵和流形正则化的图像聚类

近年来,聚类作为机器学习、数据挖掘等领域的基本问题受到广泛的关注及研究,然而数据中普遍存在的噪声和异常值严重影响聚类结果.提出一个基于相关熵和流形正则化的聚类框架CRNMF(Correntropy and Manifold Regularization Non-Negative Matrix Factorization).首先,采用基于相关熵的非负矩阵分解（Non-Negative Matrix Factorization,NMF）作为损失函数来抑制非高斯噪声和异常值的影响;其次,充分考虑数据的结构信息,采用流形正则化学习数据的局部结构,并通过l2,1-范数对非负矩阵进行稀疏约束;最后,利用半二次优化技术（Half-Quadratic Optimization Technique,HQ）进行优化,并分析了收敛性和计算复杂度.在五个图像数据集上进行测试,实验结果表明,提出的框架在图像聚类任务中具有较好的有效性和鲁棒性.     

基于类间损失和多视图融合的深度嵌入聚类

针对深度嵌入聚类方法仅考虑类内关系及多视图聚类存在特征表示不足等问题,提出一种基于类间损失和多视图特征融合的深度嵌入聚类方法,该方法在深度嵌入聚类的损失函数中引进一个新的正则项提高类判别性.先通过自动编码器提取多视图数据的特征表示,对不同视图的特征表示进行融合得到公共表示,基于此得到数据的软分配分布和辅助目标分布;再对公共表示和聚类分配进行联合优化得到最终的聚类结果.在多视图数据集上的实验结果表明,该方法能有效提高聚类性能.     

基于流形正则化非负矩阵分解预测药物-靶蛋白作用关系

识别药物-靶蛋白作用关系是当前药物研究的重要内容,其可帮助识别已有药物的新功能,发现药物的"偏靶蛋白"等。现有预测算法对新药物的作用靶蛋白,及新靶蛋白的作用药物预测存在困难,由此提出一种新奇的基于流形正则化非负矩阵分解的新药物/新靶蛋白作用关系预测算法,该方法首先通过聚类算法构建新药物/新靶蛋白的初始作用标签,然后设计引入流形学习正则化约束的非负矩阵分解算法预测药物-靶蛋白作用关系,最后在四个经典数据集中测试,并与最新预测算法BLM-NII、RLS-WNN和WKNKN+WGRMF算法进行比较,证明本文算法可获取较高的预测精度。     

非凸张量多视图子空间聚类

为了探索非凸方法在多视图聚类方面的应用, 本文基于非凸替换函数和子空间学习, 提出非凸张量多视图子空间聚类算法. 该算法不仅对多视图数据进行自表示学习来达到学习低维子空间的目的. 而且采用带有旋转的张量结构对张量的高阶关联进行挖掘. 同时, 使用非凸函数替换以及广义奇异值算子进行张量最小化问题的求解, 从而实现对张量秩的近似. 最后基于联合优化所得关联/仿射矩阵实现聚类操作. 在不同类型的多视图数据集上的大量实验验证了该方法的聚类效果.     

一种基于流形距离核的谱聚类和量子聚类融合算法

谱聚类是一种基于图谱划分理论的聚类算法,本质上是将聚类问题转化为图的最优划分问题;量子聚类可以充分挖掘数据样本的内在信息,是一种基于划分的无监督聚类算法.为了充分发挥谱聚类算法和量子聚类算法的优势,本文提出了一种基于流形距离核的谱聚类和量子聚类融合算法(MFD-NJW-QC).首先,计算数据集的流形距离核矩阵,构造相应的拉普拉斯矩阵;其次,根据拉普拉斯矩阵的若干最大特征值对应的特征向量构造新数据集,并使用量子聚类算法对新构造的数据集进行聚类,从而得到原始数据的类标签;最后,基于7个人工数据集和5个UCI数据集验证MFD-NJW-QC算法的聚类性能.结果显示,MFD-NJW-QC算法能够明显提高聚类性能,尤其对于具有流形结构,且类簇大小不平衡、密度分布不均匀的数据集优势更为突出.     

基于样本对加权共协关系矩阵的聚类集成算法

聚类集成的目标是通过集成多个聚类结果来提高聚类算法的稳定性、鲁棒性以及精度.近些年,聚类集成受到了越来越多的关注.现有的集成聚类通常平等地对待所有基聚类,而不考虑它们的重要度.虽然学者们已经在这一方面做出了一些努力,例如使用加权策略来改进共协关系矩阵,但无论是给基聚类加权还是对类重要度评价时都忽略了样本对于其所在类贡献的差异.为此,提出了基于样本对加权共协关系矩阵的聚类集成算法,该算法利用k-means算法产生多个基聚类结果,然后对于其中的每个类再利用k-means算法产生多个小类,并计算去掉样本对所在的小类后类的不确定性变化的程度来评价该样本对的重要度,最后通过层次聚类算法得到聚类结果 .在六个UCI数据集上的实验结果表明,基于样本对加权共协关系矩阵的聚类集成算法的性能优于三种经典的基于共协关系矩阵的聚类集成算法.     

一种基于粗糙均方残基的模糊双聚类方法

双聚类作为一种无监督的学习方法,其作用是对基因表达数据进行分析.为了获取较大容量的双聚类簇,弥补传统的双聚类方法在基因表达数据一致波动性方面的不足,引入粗糙集的上、下近似集概念,将粗糙集理论运用到模糊双聚类算法中,将粗糙上、下近似集与加权均方残差相结合,得到新的粗糙均方残基,进而提出一种基于粗糙均方残基的模糊双聚类算法.针对基因表达数据集,首先进行缺失值填补;其次,用非负矩阵分解算法对基因数据集进行降维;最后,计算数据矩阵的粗糙均方残基,结合综合评判度量函数与贴近度原则对矩阵的行列进行删除和添加,得到容量更大的双聚类结果.实验结果表明,该模糊双聚类算法是有效的.     

基于对应分析的冗余模糊C均值聚类算法研究

针对模糊C均值聚类（FCM）算法聚类原型最适合于球状类型簇的特点,提出了基于类间分离度和类内紧缩度加权的冗余聚类中心的FCM算法,即先将大簇或者延伸形状的簇（非凸）采用加权FCM算法分割成多个小类（冗余类）,从而规避FCM算法对初始聚类中心敏感的弱点．由于隶属度划分矩阵的元素是每个样本隶属于各冗余类的隶属度值,因此将其作为各冗余类的类特征,通过对应分析得到冗余类的新特征,再次采用加权FCM算法进行冗余类合并,最后达到分类效果．以代表曲线分割和曲面分割分类问题的3个典型数据集为算例,结果表明该方法能够识别不规则的簇,解决了FCM算法对初始聚类中心敏感的缺陷．     

学习一致相似度矩阵的图非负矩阵分解

非负矩阵分解(NMF)是一种有效的数据降维方法,广泛应用于图像聚类等领域.然而,NMF不能捕获数据固有的几何结构,所以基于图的非负矩阵分解被提出.基于图的算法大多使用K-近邻来构造相似度图.由于数据中的异常值和错误特征,直接构造图是不准确的.针对上述问题,提出了基于学习一致性相似度矩阵的图非负矩阵分解方法.该方法首先通...     

基于子空间融合的多视图聚类算法

提出一种新颖的多视图子空间聚类算法,不再对包含各种噪声以及冗余信息的原始数据进行特征融合,而是通过对不同视图的低维子空间表示进行融合,得到一个公共的低维子空间表示.将这个子空间表示作为相似度矩阵进行谱聚类,以得到更优的聚类效果.在3个广泛使用的多视图基准数据集上进行了实验,实验结果证明了所提出算法的有效性.     

非负矩阵分解算法在遥感图像融合中的应用

研究了非负矩阵分解(NMF)方法在遥感图像融合中的几种应用.在多光谱图像与全色图像融合的过程中,采用了非负矩阵分解融合算法,非负矩阵分解与主成分结合(N_PCA)的融合算法,非负矩阵分解与提升小波变换结合的融合算法,通过对各融合图像的目视判定及统计参数判定,分析评价这些算法在遥感图像融合中的性能差异.研究实验证明非负矩阵分解算法应用于遥感图像融合处理,具有较好的融合效果,非负矩阵分解算法,非负矩阵分解与主成分结合的融合算法,非负矩阵分解与提升小波变换结合的融合算法在遥感图像融合中的性能优于传统的主成分融合算法(PCA),其中,非负矩阵分解与提升小波变换结合的融合算法的性能最为优异.     

一种半监督多流形识别算法

半监督学习方法在多流形学习领域的应用越来越广泛,文章提出了一种基于MPPCA模型的半监督多流形识别算法M2SMPPCA。该算法首先通过MPPCA模型将原始数据集划分成m个"局部数据块",再根据标签信息对这些数据块进行进一步的分解,使每一个数据块中的标签信息一致;然后利用切空间偏差构造能反映出数据点之间局部几何特性的相似图,并通过谱聚类实现多流形的识别;最后利用共协矩阵集成多次分解结果,提高了子流形分解结果的鲁棒性,得到最终的子流形。实验结果表明,该算法在人造数据和实际的高维图像数据上都能有效地分解开相交多流形数据,相较于其他算法极大地提高了分解精度。     

基于自表示和投影映射的不完整多视图聚类

针对不完整多视图聚类存在的缺陷,提出一种融合自表示和投影映射的统一框架.首先,利用自表示和样本存在指示矩阵学习一致相似图,它反映了样本间的公共相似关系;其次,利用投影映射将样本矩阵投影到超球面上,得到公共低维表示;最后,将两者通过谱表示嵌入在一起,解决了因多视图数据缺失引起的不完整多视图聚类问题.该算法在真实数据集上的实验结果优于其他算法,证明了算法的有效性.     

组稀疏非负矩阵分解及其识别和聚类应用

在非负矩阵分解算法的基础上,设计了组稀疏约束,并给出了组稀疏非负矩阵分解算法.首先,介绍了非负矩阵分解算法及其稀疏变体;其次,设计了组稀疏非负矩阵分解,推导出迭代规则,并证明了算法的收敛性;最后,将组稀疏非负矩阵算法应用于人脸识别和聚类中,得到了同类算法中较好的效果.