对称局部保持的半监督维数约简算法

针对自然界较多图像具有对称的特点以及数据分布大多呈一定的流形结构情况,提出了一种对称局部保持的半监督维数约减(SLPSDR)算法.该算法使用矩阵定义维数约减映射矩阵元素之间的关系,使图像中对称的像素点对应的映射矩阵的值之间的差别最小;同时为了利用无标签训练样本保持数据的流形结构,要求低维空间中每个点的邻域关系与高维空间中的邻域关系相似.在CMU PIE、Extend Yale B、ORL、AR人脸数据库上的实验结果表明,图像数据明显的对称特点使得SLPSDR算法优于其他对比的维数约减算法.     

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.     

一种基于Biharmonic样条插值的流形学习算法*

作为一种有效的非线性降维方法,流形学习在众多领域吸引了广泛的关注并取得了长足的发展。但当样本点较为稀疏时,样本点的局部邻域很难满足流形学习局部同胚的前提条件,此时流形学习算法往往效果变差甚至失效。一种有效的解决方法是增加一些新的插值点。但已有的插值方法选取的插值点与原样本点均存在线性关系。从线性代数的理论来说,由插值点和原有邻域点张成的线性子空间与原有邻域点张成的子空间是一样的,因此,不会改善线性逼近的误差。而且,插值点没有反应出流形的本质结构和特征,从理论上背离了数据降维的目的。为此,提出了一种基于Biharmonic非线性插值技术的流形学习算法BbMLA。由于是从高维曲面逼近的角度非线性的选择插值点,插值出的样本点不会被原有邻域点线性表示,从而能更好的重构原样本点。将BbMLA应用到多个数据集后,图示说明了插值点能够有效的改善邻域内的样本点结构,同时插值后的流形学习算法具有较好的有效性和稳定性。     

一种基于线性插值的流形学习算法

作为一种有效的非线性降维方法,流形学习在众多领域引起了广泛关注并取得了长足发展.但当样本点较为稀疏时,样本点的局部邻域很难满足流形学习局部同胚的前提条件,此时流形学习算法往往效果变差甚至失效.一种有效的解决方法是增加一些新的插值点.为此,提出了一种基于三角形重心线性插值技术的流形学习算法.实验结果表明,插值算法能改善样本点的局部结构.将插值算法应用到经典的流形学习算法如LTSA后,实验结果证实了算法的有效性和稳定性.     

基于局部均值的边界鉴别分析方法

提出一种基于局部均值的监督降维算法.找出与每一个样本点同类最远的k1个近邻的均值和异类最近的k2个近邻的均值,构造反映类内散布和类间散布的矩阵,由特征值分解确定特征提取变换.该方法使不同类别样本点之间的边界在投影子空间尽可能扩大,保留了数据的邻域结构,具有较强的模式可分离性.通过在ORL和YALE两个标准人脸数据库上与其他降维算法的对比识别实验,证实了算法的有效性.     

基于改进距离的孤立点检测方法

局部切空间排列(LTSA)算法是一种有效的流形学习方法,但该算法对孤立点的存在非常敏感.为了增强LTSA算法对孤立点的鲁棒性,文中提出了一种基于改进距离的孤立点检测方法.该方法通过改进距离来度量样本点之间的距离,降低了样本点分布不均匀对孤立点检测算法的影响.实验结果表明,该数据预处理方法能有效地提高LTSA算法的鲁棒性,更好地挖掘数据集的本征特性,具有更好的数据可视化效果.     

基于自适应邻域参数的拉普拉斯特征映射

提出一种基于自适应邻域参数的拉普拉斯特征映射算法,该算法首先依据采样密度确定每个样本点的自适应邻域参数,然后根据流形弯曲度调整优化邻域参数.实验结果表明,改进后的算法能够取得比拉普拉斯特征映射算法更好的降维效果.     

基于共享近邻加权局部线性嵌入的轴承故障诊断

针对传统局部线性嵌入算法在挖掘局部流形结构时未充分考虑样本邻居分布信息,且在降维过程中默认样本具有相同的重要性导致提取鉴别特征不明显的问题,提出基于共享近邻的加权局部线性嵌入(weighted local linear embedding based on shared neighbors, SN-WLLE)算法,并用于滚动轴承故障诊断.该算法首先使用余弦距离划分样本邻域;其次计算样本邻域对相似度用以评估样本共享近邻信息,并结合样本的6种邻居分布修正局部结构挖掘,提高多共享近邻的k近邻重构准确性;接着从多流形的角度评估样本点与近邻点间的稀疏分布一致性,以获得样本的重要性指标,并在低维空间保持该信息,进而提取准确的鉴别特征;最后结合KNN分类器构建出完备的轴承故障诊断模型.采用凯斯西储大学轴承数据集和实验室测试平台轴承数据集,从可视化评估、定量聚类评估、故障识别精度评估及鲁棒性评估等方面进行分析.结果表明：SN-WLLE算法的F值保持在10⁸以上水准,平均故障识别精度最低可达0.973 4,不仅具有较好的类内紧致性与类间可分性,还对近邻参数k具有低敏感性.     

多邻域保持嵌入的人脸识别方法

现有流形学习算法在学习人脸数据时,假设所有数据点位于单一低维嵌入流形之上,当数据点实际分布在不同的流形上时,单流形假设就会影响数据真实空间结构。为此提出一种基于多邻域保持嵌入(multiple neighborhood preserving embedding,M-NPE)的学习算法来发现不同类别数据在不同维度的低维嵌入空间中分布的多流形结构。首先,单独学习不同类别数据的流形,得到反映其本质特征的流形;再通过遗传算法搜索每个流形的最优维数;最后依据最小重构误差分类器对样本分类。在Extended Yale B和CMU PIE这2个大型人脸库上实验结果验证了该算法的有效性。     

基于改进距离孤立点检测预处理的LTSA算法

局部切空间排列算法(LTSA)是一种有效的流形学习方法,但该算法对孤立点的存在非常敏感.本文提出了一种快速有效的数据预处理方法-基于改进距离的孤立点检测方法来降低孤立点对LTSA算法的影响.该方法通过改进距离来度量样本点之间的距离,降低了样本点分布不均给孤立点检测算法带来的影响.实验表明,该数据预处理方法能有效地提高LTSA算法的鲁棒性,可以更好的挖掘数据集的本征特性,具有更好的数据可视化效果.     

利用增量式非线性流形学习的状态监测方法

针对传统流形学习方法难以处理大批量设备运行数据的特点,提出了一种采用增量式流形学习方法的机械设备状态监测方法.该方法首先利用局部切空间排列算法对训练样本集进行非线性维数约简,得到初始的低维流形结构,然后通过增量式学习机制对新增的时序样本点进行动态聚类.通过对压缩机喘振试验数据及滚动轴承故障数据的分析表明,该方法的计算复杂度低,可以有效地识别出隐藏在高维特征集中的非线性故障特征,因此具有良好的工程应用前景.     

一种新的基于自组织映射的流形学习算法

针对自组织映射(Self-Organizing Map,SOM)算法在进行流形学习时容易陷入局部极值和产生"拓扑缺陷"问题的原因,提出了一种新的基于SOM的流形学习算法:TO-SOM(Training Orderly-SOM).根据流形的局部欧氏性,TO-SOM算法从一个局部线性或近似线性的数据子集出发,按照数据的内在流形结构对其进行有序训练,可以避免局部极值、克服"拓扑缺陷".根据SOM算法的鲁棒性,TO-SOM算法在成功学习数据内在流形结构的同时,对邻域大小参数和噪声也不像ISOMAP和LLE等现有流形学习算法那样敏感,从而更容易得到实际应用.     

基于子空间距离的局部切空间增量学习

提出一种基于子空间距离的局部切空间增量学习方法ISLTSA。首先采用基于划分的简化局部切空间排列算法SLTSA,把初始样本集划分为彼此重叠的多个局部最大线性片;然后引入向量到子空间的距离测度描述新数据点与局部最大线性片的接近程度,并将新数据点归入距离其最近的局部最大线性片中;最后,新数据点的全局低维坐标可由局部线性子空间与全局低维流形的仿射变换计算得出。对多个经典数据集的降维结果表明,ISLTSA算法能够保留数据集的局部几何性质,是一种有效的非线性增量学习方法。     

基于监督学习的核拉普拉斯特征映射分类方法

提出一种监督学习的核拉普拉斯特征映射方法(supervised kernel Laplacian eigenmap,SKLE),通过非线性核映射将样本数据投影到高维核特征空间,然后将流形结构和样本类别信息进行有效的结合后,提取嵌入在高维数据中的低维流形特征用于分类.实验表明,该方法对新样本具有泛化性,并且能有效提高分类的效能.     

基于自适应流形正则化自表示的无监督特征选择算法

针对基于流形正则化自表示(MRSR)的无监督特征选择算法直接从原始的样本空间构造相似矩阵可能会 导致重构空间中样本的相似性描述得不够准确的问题,提出了基于自适应流形正则化自表示的无监督特征选择 (AMRSR)算法。 基于自适应流形正则化自表示的无监督特征选择算法在 MRSR 算法的基础上通过对相似矩阵施 加概率最近邻约束将相似矩阵的学习嵌入到优化过程中,在重构空间中自适应地学习样本的相似性,使得在每一 次迭代中获取更加精确的样本局部几何流形结构,从而选择具有代表性且保持局部几何流形结构的特征。 最后, 在四个公开数据集上进行了大量的对比实验,通过将算法的特征选择结果用于 K-means 聚类并采取两种常见的聚 类评价指标:聚类精确度和归一化互信息评价聚类效果。 实验结果表明,AMRSR 算法与现有的一些算法相比有更 高的聚类精确度和归一化互信息,进一步表明该算法特征选择效果更好。     

基于语义邻域的数据降维方法在三维模型检索中的应用

为提高三维模型的识别速度以及检索准确率,提出一种基于语义邻域的数据降维方法.通过基于内容的三维模型检索过程中的相关反馈记录,构造一个三维模型的语义邻接图,采用其中任意两点的最短路径长度来近似代替两点在流形空间上的测地距离,再通过多维尺度分析(MDS)算法来构造数据点在低维欧氏空间中的内在表示.对Princeton ShapeBenchmark的实验表明,该方法在数据的低维嵌入中保留了数据之间的语义关系,在三维模型检索中取得了更好的检索效果.     

投影自表示无监督极限学习机

无监督极限学习机在投影过程中保持原始高维空间中的稀疏或近邻结构,样本在高维空间中存在冗余信息,原始的数据结构不一定适应于投影后的低维特征空间.为此,结合无监督极限学习机和子空间聚类的自表示学习,提出投影自表示无监督极限学习机模型.该模型是面向聚类的特征提取方法,在投影过程中学习自表示子空间结构,从而使无监督极限学习机提取的特征自适应于聚类任务.在IRIS数据集、 6个基因表达和2个医学影像高维数据集上进行实验,结果表明该模型和算法是有效的.     

一种改进的不变流形算法

不变流形在动力学研究的许多方面都有重要意义,由于不变流形很难通过解析表达式求解,对其做近似计算就成为重要的手段。介绍了一种改进的流形计算算法,该算法由两步构成：首先利用PDE算法在不变流形上求出一些均匀的点;再借助三角形剖分方法利用PDE算法算出的点画出直观流形图。该算法避免了频繁求解微分方程问题,没有求解多余的轨道,且求解的精度也容易控制,得到的流形图直观。     

一种流形仿射对齐算法

研究了高维数据集中共享隐空间的寻找和对齐问题,提出了半监督的流形仿射对齐算法.未匹配点的局部分布信息被有效地利用起来,以改善在匹配点比例较低情况下的学习效果;扩展的谱回归技术的应用,使得线性对齐也能较好地保持高维数据的局部几何信息.实验表明该算法能够找出高维数据的相关性方向,并将其内部隐空间较好地对齐在一起,映射新点的开销也很小.