基于SKLLE和SVM 的人脸表情识别

为有效提取人脸表情图像特征并降低特征向量维数,该文提出一种基于监督核局部线性嵌入(Supervised Kernel Locally Linear Embedding,SKLLE)和支持向量机(Support Vector Machine,SVM)相结合的降维和分类方法.利用人脸表情图像数据本身的非线性流形结构信息和标签信息实现维数约简,提取低维嵌入特征用于人脸表情识别,采用支持向量机代替传统的K近邻分类器.基于JAFFE人脸表情图像库和Cohn-Kanade人脸表情数据库的实验结果表明,该方法可以很好地实现维数约简,达到较高的识别率,有效地提高了人脸表情识别的性能.     

基于流形学习的网络数据流异常检测

将非线性流形学习应用于网络数据流的降维过程,基于局部保持投影(LPP)算法基本思想,提出基于类别信息的监督判别LPP(SDLPP)算法;与传统线性降维算法和传统流形学习算法的结果进行对比,以验证算法的准确性与稳定性;建立基于SDLPP算法的网络数据流异常检测系统实施模型。结果表明:SDLPP算法通过多目标优化,在保证局部保持投影同时实现类间距离最大与类内距离最小,在挖掘低维特征空间嵌入的同时提高了分类效果;非线性的流形学习算法能有效挖掘高维数据中的低维流形,保证了维数约减过程中的非线性结构;SDLPP算法能够生成显式投影映射,泛化性较好,时间复杂度低,更加适合网络数据流实时监测系统,并可应用于实际的网络数据流入侵检测模型。     

基于局部线性嵌入的多流形学习故障诊断方法

故障样本具有复杂多样性,而不同故障类型存在于不同维数的多流形子空间中,将样本统一降维到同一维数的单流形上则不能进行高效的特征提取.提出了一种基于局部线性嵌入(Local Linear Embedding,LLE)的多流形学习(Multi-LLE)故障诊断方法,将单流形故障诊断方法扩展到多流形,首先利用Multi-LLE分别提取各故障数据集在其本征维数流形上的特征,再通过各特征向量的聚类中心与故障新样本在不同维数下的嵌入向量的距离比较,将距离最近者归为一类实现分类识别.利用转子实验故障数据对算法进行了验证,并将Multi-LLE方法与LLE和海赛局部线性嵌入(HLLE)方法进行了比较,结果表明该方法能够有效的实现故障诊断.     

多标记学习的嵌入式特征选择

维数约减是数据挖掘领域的关键技术.传统的降维方法主要解决单标记学习问题.由于多标记学习问题的复杂性,多标记降维方法很少.直接应用未监督的降维方法到多标记学习中,忽略了类标信息.而通过分解多标记问题为单标记问题,应用现有的有监督降维方法到多标记学习中,忽略了类标间的关系.现有的多标记有监督的降维方法是基于依赖最大化的维数约简(multi-label dimensionalityreduction via depen dence maximization,MDDM),它是一种特征抽取的方法.目前还没有多标记的特征选择方法.因为在多标记学习中如何评估特征,是一个很有挑战性的问题.本文提出一个嵌入式的特征选择方法MEFS(multi-label embedded feature selection),其中采用预报风险准则作为特征的评价准则.在公开评测的yahoo网页分类数据集上进行了两个实验:(1)分析多标记学习的性能指标对特征评估的影响;(2)比较MEFS与MDDM,PCA(主成份分析),LPP(局部保留投影)的降维效果,实验显示MEFS的性能优于新近提出的MDDM等一些流行的多标记降维方法.     

基于时频特征和PCA-KELM的液压系统故障诊断

为了解决液压系统泄漏、堵塞和气穴等多类型故障下特征提取和模式识别困难的问题,提出基于时频特征和PCA-KELM的液压故障智能诊断新方法。首先利用统计分析和总体平均经验模态分解方法,构造高维混合域初始特征向量,从不同特征指标、不同分析角度对不同种类液压故障进行表征和刻画;然后通过主成分分析对多维初始特征向量进行降维和特征二次提取,将高维相关变量转化为低维独立的主特征向量;最后利用PCA主元构造的主特征向量输入核极限学习机网络中,实现故障类型的识别。实验结果表明,混合域初始特征向量能全面准确地描述故障特征,PCA提取的主特征向量摒弃了冗余信息且简化了分类器结构,KELM网络诊断速度快、分类准确率高。     

基于Gabor小波和LPP的浮选过程泡沫纹理特征提取及应用

针对Gabor小波进行特征提取时易造成维数灾难和识别效率不高的问题,提出一种基于Gabor小波滤波和局部保持投影(LPP)降维算法相结合的泡沫纹理特征提取方法.首先,利用Gabor滤波器获得原始泡沫图像5个尺度和8个方向的高维特征描述向量;然后,利用LPP算法得到降维特征向量;最后,利用此降维特征向量通过反向传播(BP)神经网络进行不同工况下泡沫类别的识别,进而指导实际矿物浮选生产.实验结果表明,相对于传统的GLCM方法和Gabor小波纹理特征提取方法,该方法可有效降低泡沫纹理特征向量维数并具有更高的识别效率.     

有监督的噪音流形学习算法

流形学习算法是维度约简与数据可视化领域的重要工具,提高算法的效率与健壮性对其实际应用有积极意义.经典的流形学习算法普遍的对噪音点较为敏感,现有的改进算法尚存在不足.本文提出一种基于监督学习与核函数的健壮流形学习算法,把核方法与监督学习引入降维过程,利用已知标签数据信息与核函数特性,使得同类样本变得紧密,不同类样本变成分...     

变工况时频脊流形早期故障预警方法研究

针对风电机组齿轮箱工况复杂多变,提出了一种基于Gabor重排对数时频脊流形早期故障预警方法.该方法首先研究提取Gabor重排对数时频谱的脊线,构建早期故障高维特征向量;然后研究改进局部切空间流形学习方法,进行维数约简;最后采用K-近邻分类器,实现变工况风电机组齿轮箱的早期故障识别与预警.通过变转速、变载荷等多种工况的行星齿轮箱磨损试验与风电机组现场运行数据验证,结果表明该方法有效提高了复杂变工况风电机组齿轮箱早期故障预警准确率,可为其预知维护提供可靠依据.      

一种可鉴别的稀疏保局投影算法

为了增强高维数据在低维子空间中的模式识别能力,假设任意2个类别相同的相似样本其稀疏表示也相似,并基于SPP和LPP思想,提出一种可鉴别稀疏保局投影降维新方法 DSLPP.该方法通过稀疏表示学习和保局部投影,使得在投影子空间中不仅能够保持稀疏表示对数据很好的表达能力,而且较好地获取高维数据所蕴含的本质局部流形结构和自然判别信息,从而增强高维数据在子空间中的表示能力和可鉴别能力.在3个典型的人脸数据集Yale,ORL和PIE29上,将所提出方法 DSLPP与PCA,LPP,NPE和SPP进行对比试验.结果表明DSLPP是一种有效的降维方法,能够较好地改善高维数据在低维子空间中的分类效果.     

非线性流形学习方法的分析与应用

非线性流形学习以保持数据局部结构的方式将高维输入投影到低维空间,发现隐藏在数据中的内在几何结构与规律性,是近年来机器学习与认知科学中一个新的研究热点.文中分析了几种主要的流形学习方法,通过比较给出各方法的优缺点;提出了基于谱分析的非线性降维的统一框架,对于流形学习方法的研究具有重要意义;给出了手写数字和人脸图像序列等降维的实验结果,显示了非线性流形学习在数据约简和可视化方面的有效应用;最后结合作者的研究探索,总结了非线性流形学习需要解决的问题并展望其研究趋势.     

两种基于谱方法的流形学习算法研究

流形学习方法是一种新型的非线性降维方法,它可以有效地对具有内在流形形式的非线性高维数据进行维数约简.目前,流形学习已被成功应用于聚类、可视化等数据挖掘领域,表现出卓越的性能.首先讨论了流形学习的研究现状,然后介绍了这一领域中影响最大的2种算法:局部线性嵌入算法和等距特征映射算法.     

基于改进半监督局部保持投影算法的故障诊断

为解决在少量标记样本的条件下故障诊断困难的问题,提出一种基于改进半监督局部保持投影(ISS-LPP)的故障诊断方法。ISS-LPP算法利用部分标记样本的标签信息调整原始特征空间中样本间的权值矩阵,并根据所有样本在特征空间的分布情况自适应的调整邻域参数,寻找数据的低维本质流形,得到原始特征空间样本数据的低维特征向量和投影转换矩阵。以得到的低维特征向量为输入,建立分类器,识别和判断故障类型。将ISS-LPP算法应用于滚动轴承的故障诊断。实验结果表明:该方法能够在标记样本较少时,提高轴承的故障诊断精度。     

采用规范化局部保持投影的轴承故障诊断方法

针对轴承故障检测中特征融合导致的维度高、相关性强等问题,提出一种采用规范化局部保持投影算法(LPP)的轴承故障诊断(En-LPP)方法。首先,采用熵规范化的方法将相似度矩阵结合到传统LPP算法的优化函数中,与投影向量一并求解,得到一种规范化LPP降维算法;然后对原始轴承振动信号进行小波变换和经验模式分解得到10条信号分量,每个分量通过计算平均值、均方根等,提取12维统计特征,经归一化后生成特征向量;然后将特征向量输入到规范化LPP降维算法中进行迭代共同求解,得到满足终止条件的相似度矩阵和投影向量;最后利用降维后的特征集训练极限学习机模型确定轴承最终工作状态以实现故障检测。实验结果表明:与传统LPP方法以及其他降维方法相比,所提出的En-LPP方法对于轴承故障诊断的性能更好;在小波变换72维特征集合以及经验模式分解48维特征集合下的分类精度平均提升了7%以上;在4种不同分类器组合下的分类精度平均提升了17%以上;较好的降维特征区分能力使得En-LPP方法的故障诊断性能在不同条件组合下均具有很好的鲁棒性。     

基于PCA-KLFDA的小样本故障数据集降维方法

针对小样本故障数据集降维问题,提出一种基于主元分析(PCA)和核局部费歇尔判别分析相结合的子空间降维方法.该方法首先应用PCA提取数据集中的关键信息并实施降维,然后将该子空间通过高斯核方法映射至高维线性空间,并在高维空间基于局部费歇尔判别分析训练出一个最有辨别力的低维分类特征集.用双跨转子实验台的一组故障特征数据集进行验证,结果表明:该方法能有效应对小样本的降维问题,达到增大不同故障样本集合间距离、使同类故障样本间的类内距离减小的效果,为基于数据驱动途径实现智能故障辨识技术中涉及的小样本故障数据集类别划分问题提供了一种新方法.     

基于降噪自动编码器特征学习的音乐自动标注算法

目前,音乐自动标注模型大多采用手动设计模式,因而存在最佳特征难以选择的问题。提出了一种基于非监督学习的特征学习算法,该算法能自动学习特征的潜在结构而不需要依赖先验知识。首先,预处理阶段主要提取音乐的音级轮廓频率谱并进行PCA白化降维处理;然后,采用深度学习中的降噪自动编码器算法对降维后的特征进行无监督的学习,并采用最大值池化和取均值来聚合得到新的特征向量;最后,将特征向量和标签送入多层感知机中进行有监督的学习。基于Magnatagatune和GTZAN数据库的实验结果表明,本文算法在一定程度上提高了音乐自动标注的准确率。     

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.     

流形学习方法及其在头部姿势估计中的应用

流行学习是一种新的数据降维方法,能揭示数据的内在变化规律,其目标是发现嵌入在高维数据空间中的低维流形结构,并给出一个有效的低维表示。目前流形学习以其出色的数据约简与可视化能力得到了越来越多模式识别与机器学习工作者的重视。本文介绍了一些常用的流形学习算法,分析了这些算法的优缺点,并利用流形学习中的局部线性嵌入(LLE)算法于头部姿势估计,取得了较好的识别效果。     

利用增量式非线性流形学习的状态监测方法

针对传统流形学习方法难以处理大批量设备运行数据的特点,提出了一种采用增量式流形学习方法的机械设备状态监测方法.该方法首先利用局部切空间排列算法对训练样本集进行非线性维数约简,得到初始的低维流形结构,然后通过增量式学习机制对新增的时序样本点进行动态聚类.通过对压缩机喘振试验数据及滚动轴承故障数据的分析表明,该方法的计算复杂度低,可以有效地识别出隐藏在高维特征集中的非线性故障特征,因此具有良好的工程应用前景.     

基于Fisher判别的半监督天体光谱数据特征降维

降维是天体光谱数据预处理常用的手段之一,如何利用标号天体光谱数据,克服降维过程中的过分拟合,是提高降维效果的有效途径之一。采用半监督学习,给出了一种天体光谱数据特征降维方法。该方法首先针对具有标号天体光谱数据,建立Fisher判别分析和PCA可变动选择的不确定关系;其次构建其半监督降维的全局最优化形式,通过特征值分解计算降维结果,从而有效地克服了天体光谱降维过程中的过分拟合问题;最后采用高红移类星体和晚型星SDSS天体光谱特征线数据集,实验验证了该方法的有效性。     

基于局部线性嵌入(LLE)非线性降维的多流形学习

为了研究多人脸多表情数据集的多流形学习问题,提出了一种基于局部线性嵌入(LLE)算法的多流形学习方法.对于分布在不同流形上的高维数据,该方法在降维的同时首先对数据集进行非监督的聚类,然后分析每一类数据的低维流形的本质维数以及流形空间的构成,聚类及流形空间的确定是通过对LLE降维的结果进行分析而完成的,计算复杂度小.在Cohn-Kanade人脸表情数据库上的表情识别实验表明,该方法在多人脸多表情流形的学习中优于基本的LLE算法,表情的识别率提高了20%～40%.