有监督的核局部线性嵌入算法

核局部线性嵌入法是一个优异的流形学习方法,对于非线性高维数据的降维问题,具有较好的效果。但是算法本身是一个无监督学习方法,对于模式分类等有监督学习问题效果不是很好。通过分析监督学习问题的机理,提出了一种有监督的核函数局部线性嵌入算法,数值实验证明算法对于有监督学习问题,具有较好的效果。     

半监督局部线性嵌入算法在人脸识别中的应用

提高人脸识别算法的识别率,提出一种基于半监督局部线性嵌入(Semi-Supervised Locally Linear Embedding,SSLLE)的人脸图像识别方法。针对局部线性嵌入(Locally Linear Embedding,LLE)算法非监督学习的缺陷,引入半监督思想,在构造邻域的时候利用部分样本的标签信息来重新调整距离矩阵;使用调整后的距离矩阵进行线性重建从而实现数据降维。在Yale和ORL人脸库上的实验结果表明,能有效的提高人脸识别的性能。     

高光谱图像半监督局部稀疏嵌入降维算法

针对目前高光谱图像半监督降维算法中基于流形学习的开放性选择近邻参数问题,以及利用传统算法不能有效地获取标签数据的局部信息,提出了一种无需考虑近邻参数的半监督局部稀疏嵌入（SELSE）算法.该算法基于稀疏表示理论,通过求解范数优化问题构建稀疏系数图,并且利用有限的标签数据最大化类间信息,提取高光谱图像的特征.在AVIRIS高光谱遥感图像的Indian Pine数据集上进行仿真实验,结果表明所提出算法在分类精度和计算效率上都有所提高.     

基于局部线性嵌入的半监督仿射传播聚类算法

针对运用半监督仿射传播聚类算法处理高维数据时聚类精度低和计算量大的问题,提出一种基于局部线性嵌入的半监督仿射传播聚类算法.该算法首先通过LLE算法将高维输入数据集映射到低维空间得到低维数据集,计算低维数据集的相似度矩阵,再用半监督算法调整相似度矩阵,最后用仿射传播聚类算法对低维数据进行聚类分析.仿真结果表明,本文提出的算法与半监督仿射传播聚类算法相比,在处理高维数据时聚类效果更好,精度更高,迭代次数更少.     

监督局部线性嵌入在人脸识别中的应用

为了提高人脸识别算法的识别率,提出了一种Gabor小波与监督局部线性嵌入(Supervised Locally Linear Embedding,SLLE)相结合的人脸特征提取算法。针对SLLE不能有效消除图像信息中冗余的高阶相关性,算法首先采用Gabor小波对人脸图像进行多方向、多分辨率滤波,提取图像在不同空间频率上的特征;然后采用监督的局部线性嵌入算法对该Gabor特征进行维数约简。在ORL和YALE人脸库上的实验显示,就算法有效提高了人脸识别的识别率。     

基于局部线性嵌入的能量耗损故障模式识别

针对基于能量耗损的齿轮故障模式识别问题,将监督学习与局部主成分分析结合,提出了一种改进的能有效提取数据低维流形结构与分类特征的局部线性嵌入算法.然后,分析了齿轮摩擦学系统能量耗损与能量耗损的故障模式识别方法.最后,以齿轮箱能量监测实验台为例,获取不同齿轮故障下输入能量耗损功率的变化,应用改进的局部线性嵌入算法进行故障的功率耗损降维与模式识别,通过多类支持向量机分类的准确率来判断分类的效果.研究表明,改进的局部线性嵌入算法有较高的识别率,是一种有效的齿轮能量耗损故障模式识别方法.     

基于邻域保持嵌入的主多项式非线性过程故障检测

针对化工过程的变量数据维数高、非线性的问题,提出基于邻域保持嵌入(NPE)-主多项式分析(PPA)的过程故障检测算法.应用NPE算法提取高维数据的低维子流形,能够解决传统的线性降维算法不能提取局部结构信息的问题,对维数进行约减.利用PPA法时,使用一组灵活的主多项式分量来描述数据,能够有效地捕捉过程数据中固有的非线性结...     

一种面向分类的核局部线性嵌入算法

局部线性嵌入算法(LLE)已被广泛运用于模式分类,但它存在两个缺点。首先LLE是一种无监督学习方法,没有很好地利用类别信息;其次,LLE算法假设数据在局部上的分布是线性的,如数据非线性分布则效果有限。对此,提出了一种解决分类问题的核局部线性嵌入算法。利用KLLE算法的思想寻找样本的内在流形分布,并通过重构误差来判定该样本的类别。所提方法考虑了样本的类别信息,也适合于处理局部非线性分布的数据。在Yale人脸库的实验结果验证了其有效性。     

半线性马氏过程局部时的构造

用半线性马氏过程的样本轨道和特征直接给出其局部时的构造。     

基于调和平均测地线核的局部线性嵌入算法

为解决现有局部线性嵌入算法不适合处理非均匀分布数据和未利用距离远点信息的问题,首先引入测地线距离,以便能利用远点信息;然后使用调和平均规范化构造调和平均测地线核矩阵,使算法能更好地处理分布不均匀数据并具有鲁棒性。在UCI数据集上的实验结果表明,改进后的算法能够取得比局部线性嵌入算法更好的降维效果。     

基于核状态空间ICA的非线性动态过程故障检测方法

针对工业过程的非线性和动态特性,提出一种基于核状态空间独立元分析的故障检测方法.采用核规范变量分析法将非线性动态过程数据映射到核状态空间,得到去相关的状态数据.对状态数据的各时延协方差矩阵进行加权求和得到状态数据的时序结构矩阵,进而建立ICA统计模型,从状态数据中提取独立元特征数据,并构造监控统计量检测过程故障.在Tennessee Eastman过程上的故障检测结果表明,相比于传统的基于动态核主元分析的故障检测方法,该方法更加灵敏地检测到故障的发生,提高故障检测率.     

利用局部线性嵌入的模态识别

提出了一种新的利用局部线性嵌入的模态识别方法。该方法以流形学习为理论基础,从提取结构的几何或固有特征出发,以系统结构的响应数据为分析对象,可识别出结构的模态参数。该方法的基本思想是,将结构的响应看作一个高维数据集,将系统的模态看作高维数据集的本质结构与固有特征,然后通过求解数据的低维嵌入进行模态参数识别。圆柱壳仿真结果表明:提出的利用局部线性嵌入的模态识别方法能够有效地进行模态参数识别;随着阻尼系数的增加,对于贡献量较大的模态,利用局部线性嵌入的识别效果优于基于主成分分析的识别效果。     

分类监督半定嵌入算法

基于谱分析流形学习算法——半定嵌入算法(Semi-definite Embedding,SDE),提出了两种监督型的SSDE算法,即基于权重的SSDE算法和基于最佳距离度量的SSDE算法,数值实验验证了算法的有效性。     

基于局部线性嵌入(LLE)非线性降维的多流形学习

为了研究多人脸多表情数据集的多流形学习问题,提出了一种基于局部线性嵌入(LLE)算法的多流形学习方法.对于分布在不同流形上的高维数据,该方法在降维的同时首先对数据集进行非监督的聚类,然后分析每一类数据的低维流形的本质维数以及流形空间的构成,聚类及流形空间的确定是通过对LLE降维的结果进行分析而完成的,计算复杂度小.在Cohn-Kanade人脸表情数据库上的表情识别实验表明,该方法在多人脸多表情流形的学习中优于基本的LLE算法,表情的识别率提高了20%～40%.     

基于特征相关性的局部线性嵌入算法

由于特征提取是数据挖掘的基础工作,而其质量对挖掘结果有很大影响,为此针对局部线性嵌入(LLE:Locally Linear Embedding)算法并未考虑同一数据的不同特征之间的相关性,不能较好地保留时间信号的主要形态趋势,提出了基于特征相关性的局部线性嵌入(CC-LLE:Local Linear Embedding Algorithm Based on Characteristic Correlation)算法,并应用于轴承故障诊断。针对轴承故障信号周期性特点,该算法在特征提取阶段对数据进行分段操作,选取各分段上的标准偏差作为特征,构造原始数据的特征样本集,从而有效提取鉴别特征。通过在轴承数据集上进行实验验证了该算法在特征提取方面的有效性。     

基于信息熵度量的局部线性嵌入算法

针对局部线性嵌入算法使用欧氏距离计算非对齐样本相似性时, 受数据位置差影响较大, 导致度量精度较低, 影响算法特征提取精度的问题, 提出一种基于信息熵度量的局部线性嵌入算法. 首先利用信息熵统计样本特征间的混乱程度, 提高划分局部邻域的准确性; 然后建立局部重构模型, 挖掘出流形的本质结构; 最后利用局部结构构建低维重构模型, 以获得样本的显著特征. 通过在轴承数据集上的实验证明了该算法在特征提取方面的有效性.     

面向视频的局部线性嵌入人脸识别算法

随着计算视觉技术的发展,面向视频的人脸识别在现实生活中应用愈加广泛,作用愈加重要,对识别的准确性要求也越高.面对视频这样的高维度数据,如何进一步提高人脸识别的准确性是该领域的一个研究热点.本文提出一种面向视频数据的改进的局部线性嵌入算法,通过构造样本间的协方差矩阵,将马哈拉诺比斯距离和像素距离相结合,提出了一种新的样本间的相似性度量方法,该方法充分利用了视频帧间信息的关联性.并在VidTIMIT数据集上进行识别效果的测试,同时与其它几类识别方法的实验结果进行对比.实验结果表明,本文提出的算法的识别率要高于已有的局部线性嵌入算法和其它方法.     

基于局部结构保持的高维数据半监督深度嵌入聚类算法

聚类是机器学习和数据挖掘中的重要课题。近年来,深度神经网络(Deep Neural Networks,DNN)在各种聚类任务中受到广泛关注。特别是半监督聚类,在大量无监督数据中仅引入少量先验信息即可显著提高聚类性能。然而,这些聚类方法忽略了定义的聚类损失可能破坏特征空间,从而导致非代表性的无意义特征。针对现有半监督深度聚类的特征学习过程中局部结构保持有所欠缺的问题,本文提出一种改进的半监督深度嵌入聚类(Improved Semi-supervised Deep Embedded Clustering,ISDEC)算法,采用欠完备自动编码器在特征表达学习的同时,保持数据的内在局部结构;通过综合聚类损失、成对约束损失和重构损失,对聚类标签分配和特征表达进行联合优化。在包括基因数据在内的若干高维数据集上的实验结果表明,本方法的聚类性能比现有方法更好。     

非对称稀疏图的半监督学习研究

【目的】如何构造一个有效的数据图,是半监督学习领域中一个重要的研究方向,为了更好地研究数据样本之间的结构关系,提高基于图的半监督学习算法性能。【方法】利用数据的稀疏表示,构造数据样本的非对称图,并在标准数据集上进行半监督学习实验。【结果】在半监督学习框架中建立了异类数据和同类数据之间距离、内部结构和数据的稀疏表示关系,构造了非对称稀疏的数据图。【结论】通过在标准数据集上进行实验说明非对称稀疏图可以利用半监督学习数据特点,有效地对数据样本进行分类。     

基于WaveARX神经网络的非线性动态过程故障检测

研究了利用ＷａｖｅＡＲＸ神经网络构造非线性动态过程的非参数化逼近模型，在分析其逼近偏差的基础上提出了一种非线性次优滤波器设计方法，用于非线性动态过程的故障检测。理论分析和仿真研究证实了其可行性和有效性。