用于人脸识别的半监督优化局部保持投影

未充分利用大量未标注样本的非监督信息是监督的、优化的局部保持投影(简称SOLPP)在人脸识别应用中的主要问题。为此提出一种用于人脸识别的半监督的优化的局部保持投影(SSOLPP)。该算法在SOLPP的基础上,通过加权平衡参数融合了未监督的主成分析(PCA)降维算法,使得投影后的数据保持了高维数据中的未标注样本的、全局的散布结构信息和监督的优化局部结构信息。在YaleB和AR人脸数据集上的实验验证了所提算法的有效性。     

基于改进半监督局部保持投影算法的故障诊断

为解决在少量标记样本的条件下故障诊断困难的问题,提出一种基于改进半监督局部保持投影(ISS-LPP)的故障诊断方法。ISS-LPP算法利用部分标记样本的标签信息调整原始特征空间中样本间的权值矩阵,并根据所有样本在特征空间的分布情况自适应的调整邻域参数,寻找数据的低维本质流形,得到原始特征空间样本数据的低维特征向量和投影转换矩阵。以得到的低维特征向量为输入,建立分类器,识别和判断故障类型。将ISS-LPP算法应用于滚动轴承的故障诊断。实验结果表明:该方法能够在标记样本较少时,提高轴承的故障诊断精度。     

基于局部重构与全局保持的半监督判别分析方法

为克服线性判别分析(LDA)只能利用有标记样本的缺点,提出一种基于局部重构与全局保持的半监督判别分析(LRGPSSDA)方法.LRGPSSDA通过最小化局部重构误差来确定邻域图的边权值,在保持数据集局部结构的同时保持其全局结构,具有对邻域参数的选择不敏感、所得投影子空间的维数不受样本类别数的限制等特点.相较现有的半监督判别分析方法(如SDA和UDA),LRGPSSDA的分类性能更好.在YaleB和CMUPIE标准人脸库上的实验结果验证了该算法的有效性.     

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.     

基于分块加权的局部保持投影的人脸识别

为增强对姿势、表情、光照等变化的鲁棒性,提出了一种加权的分块局部保持投影人脸识别算法.算法先对样本图像分块,对分块得到的子图像利用局部保持投影算法分别提取局部特征信息,并利用k近邻点的类标信息和样本影响力函数计算各分块子图像的权重.该算法能够有效地抽取图像的局部特征,对人脸表情和光照条件变化较大的图像表现尤为突出,在AT&T和Yale人脸库上的比较实验说明了该算法的有效性.     

高光谱图像半监督局部稀疏嵌入降维算法

针对目前高光谱图像半监督降维算法中基于流形学习的开放性选择近邻参数问题,以及利用传统算法不能有效地获取标签数据的局部信息,提出了一种无需考虑近邻参数的半监督局部稀疏嵌入（SELSE）算法.该算法基于稀疏表示理论,通过求解范数优化问题构建稀疏系数图,并且利用有限的标签数据最大化类间信息,提取高光谱图像的特征.在AVIRIS高光谱遥感图像的Indian Pine数据集上进行仿真实验,结果表明所提出算法在分类精度和计算效率上都有所提高.     

一种线性局部切空间判别分析算法

为了在保持数据局部几何结构不变的同时使数据分类边界最大化,提出了一种用于分类的线性局部切空间判别分析算法.该算法是改进的流形学习算法的监督版,样本的局部切空间排列矩阵确保样本低维嵌入的局部几何结构不变;基于最大边界准则的数据散度矩阵确保数据分类的类内散度最小和类间散度最大;对上述2个矩阵和进行特征分解,获得平衡的投影向量基,使样本投影后的子空间被优化.对Yale,UMIST与MIT这3个人脸数据库的实验结果表明,与现有多种经典分类方法相比,提出的算法在降维的同时提取了用于人脸识别的更有效特征,识别性能较好,具有较高的判别分析能力.     

基于Contourlet变换的连铸坯表面缺陷识别

根据连铸坯表面图像的特点,提出了一种基于Contourlet变换的连铸坯表面缺陷识别方法.通过Contourlet变换将样本图像分解成不同尺度和方向的子带,提取子带的Contourlet系数特征,并结合样本图像的纹理特征,得到一个高维的特征向量.利用监督核保局投影算法对高维特征向量进行降维,将降维后的低维特征向量输入支持向量机,对连铸坯表面图像进行分类识别.对现场采集到的裂纹、氧化铁皮、光照不均和渣痕四类样本图像进行实验,本文提出的识别方法对样本图像的识别率可达94.35%,优于基于Gabor小波的识别方法.     

半监督局部线性嵌入算法在人脸识别中的应用

提高人脸识别算法的识别率,提出一种基于半监督局部线性嵌入(Semi-Supervised Locally Linear Embedding,SSLLE)的人脸图像识别方法。针对局部线性嵌入(Locally Linear Embedding,LLE)算法非监督学习的缺陷,引入半监督思想,在构造邻域的时候利用部分样本的标签信息来重新调整距离矩阵;使用调整后的距离矩阵进行线性重建从而实现数据降维。在Yale和ORL人脸库上的实验结果表明,能有效的提高人脸识别的性能。     

基于半监督PCA-LPP流形学习算法的故障降维辨识

提出一种基于半监督思想PCA-LPP的流形学习维数约简故障辨识方法,兼顾PCA的全局结构和LPP的局部结构保持以及样本的类别信息,构造新的投影矩阵目标函数,给出PCA-LPP流形学习算法的计算原理。采用UCI中wine数据集验证半监督PCA-LPP方法的维数约简性能,并就齿轮箱故障声发射实验信号,以小波包能量熵作为特征向量,并将特征向量的降维结果输入支持向量机进行故障类型辨识。研究结果表明:半监督PCA-LPP方法的降维结果,能够充分考虑不同故障特征向量的差异信息,相应的故障类型辨识精度高于PCA及LPP方法。     

基于自适应邻域参数的拉普拉斯特征映射

提出一种基于自适应邻域参数的拉普拉斯特征映射算法,该算法首先依据采样密度确定每个样本点的自适应邻域参数,然后根据流形弯曲度调整优化邻域参数.实验结果表明,改进后的算法能够取得比拉普拉斯特征映射算法更好的降维效果.     

基于时序扩展的邻域保持嵌入算法及其在故障检测中的应用

针对动态自相关数据的特征提取和降维问题,提出了一种基于时序扩展的邻域保持嵌入(TNPE)的故障检测方法。针对邻域保持嵌入算法的不足,构建了新的优化目标,在构建局部空间结构特征的基础上,同时提取了数据随时间变化的动态特征。使得投影得到的低维空间不仅和原始变量空间具有相似的空间局部近邻结构,而且具有相似的时序动态结构,因而包含了更多的特征信息。在此基础上,利用TNPE算法将原始过程数据划分为特征空间和残差空间,并分别建立T2和SPE统计量实现工业过程监测。通过对Tennessee Eastman(TE)过程的仿真研究,验证了TNPE算法有效性可行性,并显示出了优越的故障检测能力。     

基于T-TSNPR的动态过程质量监控

针对动态过程的质量监控,提出了一种全时间序列邻域保持回归(Total Time Series Neighborhood Preserving Regression,T-TSNPR)算法。首先,考虑到无关变量对构造特征空间的影响,对过程变量进行相关性分析,利用贡献度方法进行变量优化。在数据降维过程中考虑到数据间的时序相关性,T-TSNPR在一定长度的移动时间窗内进行邻域点挑选并构造目标函数,通过全投影回归提取出质量相关特征空间,并建立相应的T2统计量进行质量监控。最后,通过数值仿真和TE过程(Tennessee-Eastman process)仿真实验验证了T-TSNPR算法的有效性。     

一种基于半监督降维的聚类算法

半监督聚类通过利用少量有标号样本或成对约束等监督信息来提高聚类性能.在此提出一种新颖的基于半监督降维的聚类算法,首先用半监督降维方法对原始数据进行降维,然后在降维后的空间中进行半监督聚类.由于在降维和聚类两个阶段中都利用了监督信息,从而使得算法的聚类性能得到进一步提升.在UCI标准数据集、yale人脸库以及文本数据集上的实验结果验证了该算法的有效性.     

基于张量的稀疏保持投影降维方法

传统的基于向量的降维算法需要将图像数据进行向量化处理。然而,向量表示难以考虑数据各维度上的变化,容易丢失有效的结构信息和判别信息。为此,从数据的张量表示出发,将新近提出的稀疏保持投影方法（sparsity preserving projections,SPP）推广到张量空间中,提出了基于张量的稀疏保持投影降维方法。该方法可直接将图像数据作为张量目标进行运算,保留了数据的完整性以及数据的原始结构和判别信息。降维的同时保持了原始张量空间中数据样本的稀疏重构信息。人脸数据库的识别实验结果表明,基于张量的稀疏保持投影降维方法能有效地提高识别率。     

基于流形学习的网络数据流异常检测

将非线性流形学习应用于网络数据流的降维过程,基于局部保持投影(LPP)算法基本思想,提出基于类别信息的监督判别LPP(SDLPP)算法;与传统线性降维算法和传统流形学习算法的结果进行对比,以验证算法的准确性与稳定性;建立基于SDLPP算法的网络数据流异常检测系统实施模型。结果表明:SDLPP算法通过多目标优化,在保证局部保持投影同时实现类间距离最大与类内距离最小,在挖掘低维特征空间嵌入的同时提高了分类效果;非线性的流形学习算法能有效挖掘高维数据中的低维流形,保证了维数约减过程中的非线性结构;SDLPP算法能够生成显式投影映射,泛化性较好,时间复杂度低,更加适合网络数据流实时监测系统,并可应用于实际的网络数据流入侵检测模型。     

基于共享近邻加权局部线性嵌入的轴承故障诊断

针对传统局部线性嵌入算法在挖掘局部流形结构时未充分考虑样本邻居分布信息,且在降维过程中默认样本具有相同的重要性导致提取鉴别特征不明显的问题,提出基于共享近邻的加权局部线性嵌入(weighted local linear embedding based on shared neighbors, SN-WLLE)算法,并用于滚动轴承故障诊断.该算法首先使用余弦距离划分样本邻域;其次计算样本邻域对相似度用以评估样本共享近邻信息,并结合样本的6种邻居分布修正局部结构挖掘,提高多共享近邻的k近邻重构准确性;接着从多流形的角度评估样本点与近邻点间的稀疏分布一致性,以获得样本的重要性指标,并在低维空间保持该信息,进而提取准确的鉴别特征;最后结合KNN分类器构建出完备的轴承故障诊断模型.采用凯斯西储大学轴承数据集和实验室测试平台轴承数据集,从可视化评估、定量聚类评估、故障识别精度评估及鲁棒性评估等方面进行分析.结果表明：SN-WLLE算法的F值保持在10⁸以上水准,平均故障识别精度最低可达0.973 4,不仅具有较好的类内紧致性与类间可分性,还对近邻参数k具有低敏感性.     

局部和稀疏保持无监督特征选择法

利用局部保持投影和稀疏保持投影来刻画数据的本质结构,结合L_2,1范数的组稀疏性来选择特征,提出一种新的针对高维小样本数据集的无监督特征选择算法.实验表明:局部和稀疏保持无监督特征选择法是一种有效的无监督特征选择方法;平衡参数对实验结果有较大的影响.     

一种高性能改进型半监督维数约减算法

针对局部重构和全局保持的半监督维数约减算法在对类内、类间关系进行处理时忽略了数据的局部性的缺点,以及增强的半监督局部Fisher判别分析算法在保持数据流形结构时忽略了数据流形结构局部性的缺点,提出一种改进型的半监督维数约减算法.该算法通过一种改进的热核权重来表示样本间距离的重要性,以此使得处于同一类簇的类内、类间关系更加得到重视,可以优先减少或加大处于同一类簇的类内或类间距离;此外在保持数据流形结构时,采用局部线性嵌入算法的思想,即要求低维空间里每个点的邻域线性重构关系和该点在高维空间里的邻域重构关系类似,并将数据流形结构的局部性考虑进去.实验结果表明,该算法在COIL20,Extended YaleB与CMU PIE等标准库上的分类性能比其他半监督维数约减算法更具优势.     

用于癌症分类的随机子空间半监督维数约减

精确的癌症分类对于癌症的成功诊断和治疗是必不可少的.半监督维数约减算法在干净的数据集上表现得很好,然而当面临噪声时,当前的大部分算法所构造的邻域结构是拓扑不稳定的.为了克服这一问题,文中提出了一种基于随机子空间的半监督维数约减算法(RSSSDR),将随机子空间与半监督维数约减算法结合起来.在数据集的不同随机子空间上,该算法首先设计多个不同的子图,然后将这些子图联合起来构成一个混合图并在其上进行维数约减.该算法通过最小化局部重构误差来确定邻域图的边权值,在保持癌症数据集局部结构的同时能够保持其全局结构.在公共癌症数据集上的实验结果表明,RSSSDR算法具有较高的分类准确率和较好的参数鲁棒性.