动态多流形投影算法在统计过程监测中的应用

为了解决工业数据的序列相关性以及数据的全局和局部结构在某些异常状态下的变化问题,通过"时滞偏移"方法将动态行为纳入多流形投影(multi-manifold projections,MMP)模型,提出一种动态多流形投影算法(dynamic multi-manifold projections,DMMP)在统计过程监测中的...     

基于黎曼流形的轴承故障诊断方法

为解决传统流形学习方法在轴承数据的非欧氏空间中特征提取时的不佳表现,提出引入黎曼流形学习方法.在黎曼流形的框架下,利用原始数据集构造出黎曼流形,并基于此流形提出了黎曼图嵌入特征提取方法,通过对局部结构编码实现初步降维.然后,在低维黎曼流形的基础上融合主成分分析算法(PCA:Principal Components Analysis)和线性判别分析算法(LDA:Linear Discriminant Analysis)设计分类器并对轴承数据进行了聚类.最后,通过在两个轴承数据集上的实验,分析了该方法提取特征的能力.实验结果表明,与现有的故障诊断方法相比,该方法具有较强的故障诊断能力.     

半监督稀疏鉴别核局部线性嵌入的非线性过程故障检测

复杂过程往往受到运行状态复杂、工作条件恶劣等因素影响,过程数据具有很强的非线性、随机性和流形结构.近年来,核局部线性嵌入(kernel locally linear embedding,KLLE)已经成功应用于复杂过程故障检测.然而KLLE是一种无监督流形学习算法,能够保持样本的局部几何信息,忽视了总体数据样本集全局/非局部鉴别信息.针对上述问题,本文提出一种新的半监督稀疏鉴别核局部线性嵌入(semi-supervised sparse discriminantKLLE,SSDKLLE)算法并用于非线性工业过程故障检测.本文主要贡献如下:(1)把半监督学习与Fisher鉴别分析(fisher discriminant analysis,FDA)引入到KLLE,有效地利用了总体数据集几何鉴别信息,提高了算法对不同类别数据的分离性;(2)基于稀疏表示通过重构优化方法对信号自适应稀疏表达的优点,利用稀疏表示自适应选择最近邻样本以及数目,提高算法鲁棒性和局部保持性能;(3)引入局部邻域处理以及核技巧策略降低过程工况数据变化对监测算法的影响,提高非线性多工况过程监测方法的性能.基于UCI数据和TE平台的仿真实验结果验证了所提算法的有效性.     

基于流形学习的网络数据流异常检测

将非线性流形学习应用于网络数据流的降维过程,基于局部保持投影(LPP)算法基本思想,提出基于类别信息的监督判别LPP(SDLPP)算法;与传统线性降维算法和传统流形学习算法的结果进行对比,以验证算法的准确性与稳定性;建立基于SDLPP算法的网络数据流异常检测系统实施模型。结果表明:SDLPP算法通过多目标优化,在保证局部保持投影同时实现类间距离最大与类内距离最小,在挖掘低维特征空间嵌入的同时提高了分类效果;非线性的流形学习算法能有效挖掘高维数据中的低维流形,保证了维数约减过程中的非线性结构;SDLPP算法能够生成显式投影映射,泛化性较好,时间复杂度低,更加适合网络数据流实时监测系统,并可应用于实际的网络数据流入侵检测模型。     

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.     

基于流形学习的纤维丛模型研究

针对数据的高维性,维数约简成为了热点的研究方向,各种流形学习算法都试图发现高维数据的内在结构与规律,然而都是基于小邻域的学习,如何将全局和局部的数据学习结合起来是一个尚未解决的问题.纤维丛是微分流形中的重要理论,比如线性空间中每个子空间都可以看成是一个纤维,它们的集合是纤维丛.本文在流形学习基础上引入纤维丛,给出纤维丛模型,并提出基于切丛局部主方向的向量空间降维算法,该算法用k-均值划分数据集并在各块上求主成分,由第一主方向组成的切丛截面,在截面流形上进行利用等度规映射（ISOMAP）降维,最后在模拟数据和人脸数据上进行实验说明了算法的有效性.     

一种新的基于自组织映射的流形学习算法

针对自组织映射(Self-Organizing Map,SOM)算法在进行流形学习时容易陷入局部极值和产生"拓扑缺陷"问题的原因,提出了一种新的基于SOM的流形学习算法:TO-SOM(Training Orderly-SOM).根据流形的局部欧氏性,TO-SOM算法从一个局部线性或近似线性的数据子集出发,按照数据的内在流形结构对其进行有序训练,可以避免局部极值、克服"拓扑缺陷".根据SOM算法的鲁棒性,TO-SOM算法在成功学习数据内在流形结构的同时,对邻域大小参数和噪声也不像ISOMAP和LLE等现有流形学习算法那样敏感,从而更容易得到实际应用.     

基于动态结构保持主元分析的故障检测方法

为充分利用表征过程运行工况的数据特征信息,提高化工过程的故障检测性能,提出一种基于动态结构保持主元分析(DSPPCA)的过程故障检测方法。首先对原始数据采用变量相关性分析建立自回归模型,构建包含动态特征的数据集,进一步综合考虑主元分析法(PCA)和局部线性嵌入(LLE)流形学习算法中数据点之间的近邻关系,融合得出新的目标函数,同时,运用局部线性回归的方法获得高维样本的嵌入映射,特征提取后在特征空间和残差空间分别构造监控统计量进行故障检测。Swiss-roll数据集的降维结果及TE过程的仿真研究结果表明,DSPPCA算法可以取得较好的特征提取效果,具有较高的故障检测性能。     

基于多数据结构的集成质量监控方法

考虑到工业过程中不同数据结构特征的提取方式可能会影响质量监控性能,提出了一种融合过程数据集全局与局部结构特征的集成质量监控(Ensemble Learning based Multiple Data Structures Quality Monitoring,E-MDSQM)方法。首先,构建偏最小二乘(Partial Least Square,PLS)、邻域保持回归(Neighborhood Preserving Regression,NPR)、局部全局主成分回归(Local and Global Principal Component Regression,LGPCR)3种基础模型,分别描述过程数据的全局结构、局部拓扑及局部全局混合结构信息;然后,基于一种新的监控指标,采用遗传优化算法求得最优权重,集成融合各统计量并确定控制限;最后,通过田纳西-伊斯曼(Tennessee-Eastman Process,TE)过程仿真,评估集成模型的监控效果,并与PLS、NPR、LGPCR 3种基础算法比较,实验结果表明该集成模型取得了较好的综合效果。     

基于局部特征的多模态过程监控方法

多模态过程中各个模态均有不同的特征,因此模态数据的局部特征比全局特征更能有效、合理地表征实际化工过程。为利用多模态数据的局部特征,提出了基于数据局部特征的多模型方法(LFMM)用于多模态过程的监控。首先,离线阶段考虑到数据间的时序信息以及数据特征,利用不同时间窗内数据的变异系数(CV)完成多模态数据集的聚类;然后,考虑到不同模态的数据在空间分布上具有不同的疏密性特征,建模阶段利用局部离群因子(LOF)算法计算数据在其模态数据集中的局部密度,监控时将在线数据的局部密度作为统计特征,并构造全局概率指标用于多模态过程监控;最后,通过田纳西伊斯曼(TE)过程验证了本文方法的有效性。     

基于正交余弦变换域概率主成分分析的嵌入隐马尔可夫人脸识别模型

提出并证明了概率主成分分析作用于正交余弦变换(DCT)域与作用于空域所获得的结果相同.利用DCT变换的快速压缩性能和概率主成分分析的软降维性能来稳定地获取和表示人脸的局部特征,并把得到的特征向量作为嵌入隐马尔可夫模型的观察向量,建立了基于DCT域概率主成分分析的嵌入隐马尔可夫人脸识别模型.该模型应用于不同表情和光照下的人脸识别,取得了较好的实验结果.     

工业网络流量异常检测的概率主成分分析法

针对主成分分析(PCA)法用于工业测控网络流量异常检测时存在的误报率高的问题,提出了一种基于概率主成分分析(PPCA)的检测算法.首先通过分析误报成因,建立了工业测控网络流量矩阵的PPCA模型,然后使用迭代变分贝叶斯算法辨识该模型的参数,再利用模型参数估计值求解流量矩阵的秩的分布函数并得到秩的极大似然估计值,最后以秩的跃变状况为判据进行异常流量检测.模拟攻击实验表明,该方法使漏报率平均下降了32%,从而有效降低了PCA方法的误报率.     

局部特征与全局信息联合的自适应图像增强算法

针对传统基于修正直方图的图像增强算法不能兼顾局部特征和全局信息的问题,提出一种局部特征与全局信息联合的自适应图像增强算法. 该算法将增强分为局部增强和全局增强两部分,局部增强利用像素的邻域信息和局部与全局对比度的比例信息作为幂次变换的伽马值,对图像进行伽马校正,提高图像的亮度和局部对比度;全局增强利用区域相似直方图统计抑制噪声,避免过度增强. 实验结果表明,本文算法在客观性能上优于其它传统图像增强算法,并且可以有效提高复杂光照下人脸图像的检测率.      

基于自适应流形正则化自表示的无监督特征选择算法

针对基于流形正则化自表示(MRSR)的无监督特征选择算法直接从原始的样本空间构造相似矩阵可能会 导致重构空间中样本的相似性描述得不够准确的问题,提出了基于自适应流形正则化自表示的无监督特征选择 (AMRSR)算法。 基于自适应流形正则化自表示的无监督特征选择算法在 MRSR 算法的基础上通过对相似矩阵施 加概率最近邻约束将相似矩阵的学习嵌入到优化过程中,在重构空间中自适应地学习样本的相似性,使得在每一 次迭代中获取更加精确的样本局部几何流形结构,从而选择具有代表性且保持局部几何流形结构的特征。 最后, 在四个公开数据集上进行了大量的对比实验,通过将算法的特征选择结果用于 K-means 聚类并采取两种常见的聚 类评价指标:聚类精确度和归一化互信息评价聚类效果。 实验结果表明,AMRSR 算法与现有的一些算法相比有更 高的聚类精确度和归一化互信息,进一步表明该算法特征选择效果更好。     

基于Grassmann流形距离的动作识别

利用时空兴趣点间的位置及局部特征相似度信息,提出一种局部邻域特征以描述局部数据结构,然后引入核主角度及Grassmann流形距离以度量2个邻域特征距离,通过构造随机流形森林学习数据样本在Grassman流形上的类条件概率密度函数,最后使用多核学习算法实现对随机流形树的剪辑及动作分类.在KTH及UCF-CIL动作数据库的实验证明:所提动作表示方法能有效描述人体运动信息,且该动作识别算法的识别率优于近年提出的典型动作识别系统.     

少量已知历史数据下的电能质量复合扰动识别方法

针对训练电能质量复合扰动分类模型遇到少量已知历史数据和海量未标注的采样数据共存的现象,提出了一种基于混合流形正则化图拉普拉斯-海森半监督极限学习机(Laplacian Hessian semi-supervised-extreme learning machine,LHSS-ELM)的复合扰动识别方法.所提方法通过La...     

一种克服噪声的鲁棒Laplacian特征映射算法

针对流形学习算法普遍存在对噪声敏感的问题,提出一种克服噪声的鲁棒Laplacian特征映射算法。该算法从Laplacian特征映射出发,在降维过程中,对样本点的邻域范围采用局部PCA的方法,以识别和剔除包含的噪声点,并在重构低维嵌入坐标的同时保持流形光滑连续的整体性,较好地改善了算法的特征提取性能。实验结果表明,所提算法有效地提高了对噪声的鲁棒性。     

求解TSP问题的一种基于信息素的遗传交叉算子

提出了求解TSP问题的一种新的基于信息素的遗传交叉算子,并对算子构造子个体的过程进行了实验分析. 在生成子个体时,基于信息素的遗传交叉算子不仅能够利用包括边长度和邻接关系在内的局部信息,还可以利用以信息素形式保存的全局信息. 在纯遗传算法框架内,利用TSP基准算例对所提出的交叉算子的性能进行了实验测试. 结果表明,该算子在精度和收敛速度上均优于其他知名的交叉算子.     

利用增量式非线性流形学习的状态监测方法

针对传统流形学习方法难以处理大批量设备运行数据的特点,提出了一种采用增量式流形学习方法的机械设备状态监测方法.该方法首先利用局部切空间排列算法对训练样本集进行非线性维数约简,得到初始的低维流形结构,然后通过增量式学习机制对新增的时序样本点进行动态聚类.通过对压缩机喘振试验数据及滚动轴承故障数据的分析表明,该方法的计算复杂度低,可以有效地识别出隐藏在高维特征集中的非线性故障特征,因此具有良好的工程应用前景.