基于局部线性嵌入(LLE)非线性降维的多流形学习

为了研究多人脸多表情数据集的多流形学习问题,提出了一种基于局部线性嵌入(LLE)算法的多流形学习方法.对于分布在不同流形上的高维数据,该方法在降维的同时首先对数据集进行非监督的聚类,然后分析每一类数据的低维流形的本质维数以及流形空间的构成,聚类及流形空间的确定是通过对LLE降维的结果进行分析而完成的,计算复杂度小.在Cohn-Kanade人脸表情数据库上的表情识别实验表明,该方法在多人脸多表情流形的学习中优于基本的LLE算法,表情的识别率提高了20%～40%.     

流形学习算法分析及比较

笔者从介绍流形与流形学习的概念和数学描述入手,对等距映射算法(Isomap),局部线性嵌入算法(LLE),拉普拉斯特征映射算法(LE)进行了分析与比较,目的是了解这三种主要的流形学习算法的特点,能更好地进行数据的降维与分析.     

局部线性嵌入及其在人脸表情识别中的应用

深入探讨了流形学习算法中的局部线性嵌入算法(Locally Linear Embedding,简称LLE),在此基础上提出有监督学习的LLE算法,并把它应用于人脸表情识别中,只需构造简单的最小距离分类器,就能取得较好的识别率.     

一种新的基于自组织映射的流形学习算法

针对自组织映射(Self-Organizing Map,SOM)算法在进行流形学习时容易陷入局部极值和产生"拓扑缺陷"问题的原因,提出了一种新的基于SOM的流形学习算法:TO-SOM(Training Orderly-SOM).根据流形的局部欧氏性,TO-SOM算法从一个局部线性或近似线性的数据子集出发,按照数据的内在流形结构对其进行有序训练,可以避免局部极值、克服"拓扑缺陷".根据SOM算法的鲁棒性,TO-SOM算法在成功学习数据内在流形结构的同时,对邻域大小参数和噪声也不像ISOMAP和LLE等现有流形学习算法那样敏感,从而更容易得到实际应用.     

基于流形学习的离群点检测方法

为了提高高维数据集合离群数据挖掘效率,提出了一种基于流形学习的离群点检测算法。局部线 性嵌入（ locally linear embedding, LLE）算法是流形学习中有效的非线性降维方法,它的优势在于只定义唯一的 参数,即邻域数。根据LLE算法的思想寻找样本数据的内在嵌入分布,并通过邻域数选取和降维后数据点之 间的距离调整,提高了数据集中离群点发现效率,同时利用离群点权值判别式进行权值数据判定,根据权值 的大小标识出数据集中的离群点,仿真实验的结果表明了该方法能够有效地发现高维数据集中的离群点。 与此同时,该算法具有参数估计简单、参数影响不大等优点,该算法为离群点检测问题的机器学习提供了一 条新的途径。     

流形正则化加权回归模型的车轮磨损量预测

针对传统流形正则化加权回归(WDMR)模型对新样本数据预测的局限性,提出基于半监督局部线性嵌入(LLE)算法的WDMR建模方法.先结合半监督流形学习的思想,建立了数据驱动的半监督LLE算法的WDMR模型.然后,根据轮轨磨耗检测数据进行了车轮踏面磨耗量的预测实验.结果表明,与传统的WDMR模型比较,半监督LLE算法的WDMR模型具有更好的拟合与泛化性能,预测精度更高,将该模型用于现场车轮踏面磨耗量的预测是有效的.     

流形学习方法及其在头部姿势估计中的应用

流行学习是一种新的数据降维方法,能揭示数据的内在变化规律,其目标是发现嵌入在高维数据空间中的低维流形结构,并给出一个有效的低维表示。目前流形学习以其出色的数据约简与可视化能力得到了越来越多模式识别与机器学习工作者的重视。本文介绍了一些常用的流形学习算法,分析了这些算法的优缺点,并利用流形学习中的局部线性嵌入(LLE)算法于头部姿势估计,取得了较好的识别效果。     

基于局部线性嵌入的多流形学习故障诊断方法

故障样本具有复杂多样性,而不同故障类型存在于不同维数的多流形子空间中,将样本统一降维到同一维数的单流形上则不能进行高效的特征提取.提出了一种基于局部线性嵌入(Local Linear Embedding,LLE)的多流形学习(Multi-LLE)故障诊断方法,将单流形故障诊断方法扩展到多流形,首先利用Multi-LLE分别提取各故障数据集在其本征维数流形上的特征,再通过各特征向量的聚类中心与故障新样本在不同维数下的嵌入向量的距离比较,将距离最近者归为一类实现分类识别.利用转子实验故障数据对算法进行了验证,并将Multi-LLE方法与LLE和海赛局部线性嵌入(HLLE)方法进行了比较,结果表明该方法能够有效的实现故障诊断.     

独立分量分析和流形学习在VSC-HVDC系统故障诊断中的应用

提出一种基于独立分量分析(ICA)和局部线性嵌入流形学习算法(LLE)的新型高压直流输电(VSC-HVDC)系统故障诊断方法.由于随机噪声的干扰,单个传感器测得的系统故障信号无法直接用于故障检测,故使用快速ICA对多通道传感器测得的直流电压和电流信号进行盲源分离处理以恢复去噪的系统故障源信号;然后利用LLE挖掘潜藏于恢复信号中的子流形,提取故障敏感特征;最后将LLE提取的故障特征量作为支持向量机(SVM)的输入,建立系统故障诊断模型.通过对系统交流相对相故障、交流相对地故障以及复合故障等仿真信号进行分析,表明所提出的ICA-LLE方法能够有效地提取故障关键特征,并在3维空间将故障特征隔离,从而得到满意的SVM故障识别效果,且SVM分类精度比只使用LLE提高了近20%.     

一种基于流形学习重建的脱机手写数字识别算法研究

本文针对在手写字符识别中由于书写习惯和风格的不同造成字符模式不稳定的问题,提出了一种基于流形学习重建的手写体数字识别方法。该方法与传统的流行学习识别方法不同,传统的方法是先对待识别模式进行降维,然后再对降维后的特征进行分类识别;本文提出基于重建的LLE算法（简称RLLE）。该算法首先分别对每一类字符训练样本进行LLE降维,得到每一类字符降维后的向量。然后将待识别字符分别在每一类字符中进行降维,并依据该降维后的矢量在每一类中对字符进行重建。最后选取重建误差最小的为待识别的所属的类。通过对MINST字库的一系列实验表明该算法具有较高的识别率,同时该方法为手写体数字识别的研究提供了一条有效的新途径。     

彩色分量流形特征融合的人脸识别

对人脸图像RGB彩色空间三分量的非线性流形嵌入进行了分析,提出一种结合了流形学习技术和图像彩色信息的人脸识别方法。 该方法对人脸图像的彩色三分量分别采用局部线性嵌入（LLE）方法进行特征提取,提取的特征进行归一化处理和特征融合,采用线性判别分析（LDA）增加分类判别性,最后采用k最近邻法（kNN）进行分类。 该方法中提取的特征,能够保持人脸图像数据的非线性结构,同时利用了人脸图像的彩色信息。 对比实验结果表明,利用了彩色信息的三分量流形学习特征融合方法,比Fisherface特征灰度图像和单个彩色分量的人脸识别性能有所改善。      

人脸非线性视角流形建模方法

针对线性子空间不足以描述头部视角空间非线性变化等因素影响人脸视角流形的精确建模问题,提出一种新的视角流形建模方法,并从理论上将该方法与经典的流形学习建模方法及概念驱动的视角流形建模方法进行比较,通过基于非线性张量分解的人脸及视角识别实验比较视角流形对识别结果的影响,从而给出视角流形的有效性比较.实验结果表明,本文提出的视角流形建模方法比概念驱动的视角流形和TensorFace中的线性视角系数均有更好的识别效果.     

几种维数约简方法在人脸识别中的比较研究

流行学习是一种分类问题的有效解决方法.采用人脸数据库作为样本集,对主要几种线性算法和LLE算法进行实验分析,尝试引入一种监督LLE算法,在针对人脸数据库的实验中发现该算法在提取非线性特征中有较好的效果.     

基于增强多流形学习的监控视频追踪算法

提出了一种多流形局部线性嵌入的流形学习算法,为每个类的流形学习过程设计了一种监督的近邻点选择方法,将流形-流形距离作为度量指标,搜索最优的低维空间.在视频追踪算法中对外部数据库进行图像训练预处理,为人脸检测建立级联分类器,利用均值粒子滤波器结合跟踪校正策略对人脸图像实时跟踪,采用多流形训练的结果从视频流的人脸集中检测出追踪的目标人脸.仿真实验结果表明本算法对不同的数据集均获得了较高的检测率与较高的计算效率.     

基于张量脸的多姿态人脸识别算法

提出了一种新的多姿态人脸识别算法,在原有的张量脸算法(TensorFaces)基础上结合了流形学习方法和统计学聚类的方法,首先将训练图库中不同姿态的人脸图像通过保局映射投影(LPP)的姿态聚类特性投影到二维空间上,然后将待测图库中的未知姿态人脸图像投影到该二维空间并找到其最近邻的两个姿态,根据两个最近邻姿态库作为训练库修正张量脸识别算法的判别系数.实验结果表明,该算法的识别率优于原有的张量脸算法.     

有监督的噪音流形学习算法

流形学习算法是维度约简与数据可视化领域的重要工具,提高算法的效率与健壮性对其实际应用有积极意义.经典的流形学习算法普遍的对噪音点较为敏感,现有的改进算法尚存在不足.本文提出一种基于监督学习与核函数的健壮流形学习算法,把核方法与监督学习引入降维过程,利用已知标签数据信息与核函数特性,使得同类样本变得紧密,不同类样本变成分...     

一个关于如何选择核函数的框架

如何为特定的机器学习任务选择合适的核函数,是统计学习和核方法理论中的一个具有挑战性的问题。在此从保形映射和流形学习的角度,提出了一种探索性解决方法,并以实验检验这种构想,做出了初步结论。     

基于流形的分类算法及其在毫米波雷达目标识别中的应用

针对毫米波高分辨率雷达一维距离像目标识别的多类分类问题．基于局部线性嵌入（Locally Linear Embedding,LLE）算法思想,考虑样本与其所在低维流形之间的关系,提出一种多类分类算法．该算法先确定样本所在低维流形的结构,然后通过比较未知样本与各类已知样本流形间的关系来分类．将其应用于毫米波高分辨率雷达一维距离像目标识别,实验结果表明,该算法能够有效地进行分类。性能优于其他常用多类分类算法．且对输入参数不敏感．