局部和稀疏保持无监督特征选择法

利用局部保持投影和稀疏保持投影来刻画数据的本质结构,结合L_2,1范数的组稀疏性来选择特征,提出一种新的针对高维小样本数据集的无监督特征选择算法.实验表明:局部和稀疏保持无监督特征选择法是一种有效的无监督特征选择方法;平衡参数对实验结果有较大的影响.     

投影自表示无监督极限学习机

无监督极限学习机在投影过程中保持原始高维空间中的稀疏或近邻结构,样本在高维空间中存在冗余信息,原始的数据结构不一定适应于投影后的低维特征空间.为此,结合无监督极限学习机和子空间聚类的自表示学习,提出投影自表示无监督极限学习机模型.该模型是面向聚类的特征提取方法,在投影过程中学习自表示子空间结构,从而使无监督极限学习机提取的特征自适应于聚类任务.在IRIS数据集、 6个基因表达和2个医学影像高维数据集上进行实验,结果表明该模型和算法是有效的.     

高光谱图像半监督局部稀疏嵌入降维算法

针对目前高光谱图像半监督降维算法中基于流形学习的开放性选择近邻参数问题,以及利用传统算法不能有效地获取标签数据的局部信息,提出了一种无需考虑近邻参数的半监督局部稀疏嵌入（SELSE）算法.该算法基于稀疏表示理论,通过求解范数优化问题构建稀疏系数图,并且利用有限的标签数据最大化类间信息,提取高光谱图像的特征.在AVIRIS高光谱遥感图像的Indian Pine数据集上进行仿真实验,结果表明所提出算法在分类精度和计算效率上都有所提高.     

变空间协同表示判别分析的特征提取算法

稀疏保持投影(Sparsity Preserving Projection,SPP)是一种无监督的方法,不需要标签信息,但SPP求稀疏系数的过程计算量相对较大;此外,大多数稀疏表示的投影算法并不能很好地反映映射空间数据间的关系.为了能更好地反映映射空间数据间的关系,提出了变空间协同表示判别分析的特征提取算法.首先将原始数据映射到PCA空间去除冗余信息;其次利用L2范数求解稀疏权重,利用所提的监督目标函数计算映射矩阵;然后在求得的映射空间中更新稀疏权重;最后求出权重更新后的映射矩阵.在FERET库、AR库和ORL库的测试结果验证了本算法的有效性.     

基于伪标签回归和流形正则化的无监督特征选择算法

无监督特征选择是无标签高维数据预处理过程中一种有效的数据降维技术，然而大多数无监督特征选择算法忽略了数据样本本身的类簇结构特性，选择具有低判别性信息的特征.基于此，提出一种基于伪标签回归和流形正则化的无监督特征选择算法.具体地，联合伪标签回归和最大化类间散度来保证算法在迭代过程中学习伪标签，同时，自适应学习数据样本之间的局部几何结构，获得更加精准的标签信息和结构信息，进而选择具有高判别性且能保持数据流形结构的特征.在四个公开数据集上的对比实验表明，提出算法的特征选择结果优于现有的一些无监督特征选择算法.     

基于张量的稀疏保持投影降维方法

传统的基于向量的降维算法需要将图像数据进行向量化处理。然而,向量表示难以考虑数据各维度上的变化,容易丢失有效的结构信息和判别信息。为此,从数据的张量表示出发,将新近提出的稀疏保持投影方法（sparsity preserving projections,SPP）推广到张量空间中,提出了基于张量的稀疏保持投影降维方法。该方法可直接将图像数据作为张量目标进行运算,保留了数据的完整性以及数据的原始结构和判别信息。降维的同时保持了原始张量空间中数据样本的稀疏重构信息。人脸数据库的识别实验结果表明,基于张量的稀疏保持投影降维方法能有效地提高识别率。     

基于稀疏保持拉普拉斯判别分析的特征提取算法

针对稀疏保持投影算法在特征提取过程中无监督和l1范数优化计算量较大的问题,提出一种基于稀疏保持拉普拉斯判别分析的快速特征提取算法.首先通过逐类主元分析(PCA)构造级联字典,并基于该字典通过最小二乘法快速学习稀疏保持结构;其次利用学习到的稀疏表示结构正则化拉普拉斯判别项达到既考虑判别效率又保持稀疏表示结构的目的;所提算法最终转化为一个求解广义特征值问题.在公共人脸数据库(Yale,ORL和扩展Yale B)的测试结果验证了该方法的可行性和有效性.     

基于K-SVD的医学图像特征提取和融合

医学图像融合能够综合两种不同模态图像的信息,从而帮助医生做出准确的诊断和治疗.利用稀疏表示进行图像的特征提取和融合.首先由原始图像组成联合矩阵,通过K-SVD算法得出这个联合矩阵的冗余字典并求出联合矩阵的稀疏编码;然后将稀疏系数作为图像特征,并采用最大化选择算法合并相对应图像块的稀疏编码;最后通过稀疏编码和冗余字典得到融合图像.与3种流行的融合算法比较,结果表明所提算法在无噪声和有噪声的情况下都具有很好的性能.     

基于谱技巧稀疏保持判别分析(英文)

稀疏保持判别分析(SPDA)是一种新型的基于图的半监督降维(SSDR)方法,近年来已被成功应用于解决诸多实际问题(如人脸识别).SPDA基于数据的稀疏重构关系建图,由于稀疏的特性,从而包含自然的判别信息.然而,在SPDA计算中涉及到稠密矩阵的特征分解从而导致在存储和记忆方面会耗费大量时间,为此,我们提出了一种新的SSDR算法-基于谱技巧稀疏保持判别分析(SSPDA),该方法将稀疏表示与谱技巧结合在一起.具体地,首先把投影函数的计算转化为一个回归类优化问题,然后借助岭回归技巧得到投影方向向量,从而有效的避免了稠密矩阵的特征分解问题.在两个单标号人脸数据上的实验结果表明了该算法的有效性.     

基于局部邻域嵌入的无监督特征选择

机器学习中,特征选择可以有效降低数据维度.考虑到流形学习能够保持原始数据的几何结构,l_(2,1)范数能够防止过拟合,提升模型的泛化能力,将二者结合起来可以提高特征选择的效果和效率.结合局部邻域嵌入(LNE)算法和l_(2,1)范数,提出一种新的无监督特征选择方法.其主要思想是:首先利用数据样本和邻域间的距离以及重构系数构造相似矩阵;其次构建低维空间并结合l_(2,1)范数进行稀疏回归;最后计算每个特征的重要性并选出最优特征子集.实验通过与几种典型的特征选择算法做对比,验证了所提算法的有效性.     

基于鲁棒回归度量学习的图像分类算法

度量学习是机器学习中的重要研究问题之一,针对实际应用中的噪声数据,如何建立一个鲁棒的度量仍是一个挑战.本文将稀疏表示、特征学习与分类模型相结合提出了一种新的基于鲁棒回归度量学习(RRML)的算法并将其应用于图像分类.算法对最优特征子空间和稀疏表示进行联合学习,在更具判别性的低维表征空间中,通过稀疏表示有效地编码数据的局部结构信息,进而更好地揭示数据的内在鉴别信息,并以此指导该模型学习到最优的投影矩阵;同时对噪声矩阵和投影矩阵的行稀疏约束,可以极大降低噪声的影响.实验结果表明所提算法在图像分类准确率和鲁棒性方面均优于其他对比算法.     

基于稀疏聚类的无监督特征选择

特征选择是从特征集合中选择相关特征子集,方便数据聚类、分类和检索等.现有的无监督特征选择算法是将高维数据映射到低维空间并计算每个特征的得分,选择排名靠前的特征.提出一种基于稀疏聚类的无监督特征选择算法:首先利用流形学习的特征映射思想将高维空间的数据映射到低维空间中,用样本构造近邻图,通过图的嵌入找到低维空间,降维后的空间能保持原始数据集的流形结构.其次,得到的样本嵌入矩阵表示特征的重要性,是区分特征对每一个聚类簇的贡献大小的指标,利用低维空间对高维空间的拟合,构造一个目标函数.最后,目标函数本质是回归问题,求解回归优化问题常用最小角回归算法,使用L_1范数进行稀疏回归计算每个特征的得分,选出得分靠前的特征.在六个现实数据集上的实验结果表明:该算法在聚类精度和互信息上取得了较好的实验结果,能有效地选出重要特征,在降维方面具有良好性能,优于其他对比算法.     

基于自适应核联合稀疏表示的多特征高光谱图像分类

稀疏表示已被证明是高光谱图像(HSI)分类中的有力工具,同时利用多种特征信息进行联合分类的优点在HSI图像分类领域受到关注,但多特征数据的稀疏策略以及数据的非线性是两个棘手的问题.为此提出了自适应稀疏模式的核联合稀疏模型对高光谱图像进行分类.对于几个互补特征(梯度,文理和形状),该模型同时获取每种特征的表示向量,并且通过施加自适应稀疏策略ladaptive,0来有效利用多特征信息.自适应稀疏策略,不仅限制不同特征空间的像素通过来自特定类的原子表示,而且允许这些像素选定的原子不同,从而提供更好的表示方法.此外,提出的核联合稀疏表示模型用于处理数据的非线性问题.核模型将数据投影到高维空间以提高可分离性,实现比线性模型更好的性能.在数据集Indian Pines和University of Pavia的实验结果表明,所提出的算法表现出更高的分类精度.     

半监督稀疏鉴别核局部线性嵌入的非线性过程故障检测

复杂过程往往受到运行状态复杂、工作条件恶劣等因素影响,过程数据具有很强的非线性、随机性和流形结构.近年来,核局部线性嵌入(kernel locally linear embedding,KLLE)已经成功应用于复杂过程故障检测.然而KLLE是一种无监督流形学习算法,能够保持样本的局部几何信息,忽视了总体数据样本集全局/非局部鉴别信息.针对上述问题,本文提出一种新的半监督稀疏鉴别核局部线性嵌入(semi-supervised sparse discriminantKLLE,SSDKLLE)算法并用于非线性工业过程故障检测.本文主要贡献如下:(1)把半监督学习与Fisher鉴别分析(fisher discriminant analysis,FDA)引入到KLLE,有效地利用了总体数据集几何鉴别信息,提高了算法对不同类别数据的分离性;(2)基于稀疏表示通过重构优化方法对信号自适应稀疏表达的优点,利用稀疏表示自适应选择最近邻样本以及数目,提高算法鲁棒性和局部保持性能;(3)引入局部邻域处理以及核技巧策略降低过程工况数据变化对监测算法的影响,提高非线性多工况过程监测方法的性能.基于UCI数据和TE平台的仿真实验结果验证了所提算法的有效性.     

采用联合域字典稀疏表示的极化SAR图像分类

针对传统字典学习算法难以有效保持极化SAR图像的空间结构以及难以处理大规模数据的问题,提出了一种基于空域和极化域的联合域字典学习和稀疏表示的分类方法.该方法采用基于联合域流形距离的快速AP聚类进行字典学习.利用局部线性编码对极化SAR图像进行空域和极化域的联合域稀疏表示,充分利用了极化SAR数据集潜在的信息,有效保持极化SAR数据结构的同时降低了算法的时间复杂度.试验结果表明:所提算法适应性强,收敛速度快,能够提高极化SAR图像的分类精度.     

基于全局-局部保持投影的稀疏降维方法

该文提出了一种基于全局-局部结构保持的稀疏投影模型(GLSPP).通过对投影数据进行线性重构来保持数据的全局结构,从而保留投影数据的全局信息.通过约束重构系数矩阵与相似性矩阵的相似性来保持全局保持数据和局部保持投影数据的一致性.同时,对重构系数矩阵和相似性矩阵进行稀疏约束,保留主要信息,以减少冗余信息的干扰.在公开的4个人脸与物体数据集上的实验结果显示:该方法具有较高的分类准确率.     

改进型稀疏表示的图像分类方法

在图像分类问题中,传统的稀疏表示算法只考虑样本整体信息,忽略样本局部结构信息;此外,稀疏表示算法要求测试样本与训练样本的人脸图像要一致对齐,当姿势与角度发生变化时分类效果明显下降.针对这些问题,提出了一种改进L2正则化稀疏表示算法.首先,通过求解最小二乘法得到稀疏系数矩阵;然后,计算样本重构残差,用稀疏度量公式量化样本之间的稀疏性;最后,在保持样本稀疏性的同时增加了样本类与类之间的局部判别信息,进而提高样本的分类性能.为了验证算法的有效性,在ORL、FERET和FEI人脸数据库与Stanford 40 Actions数据库和Caltech-UCSD Birds (CUB200-2011)数据库上进行实验.实验结果表明,该方法在不同的人脸数据库和扩展视觉数据集上取得的分类结果均优于传统稀疏表示算法及其他常用分类算法.     

基于上下文和稀疏表示的异常行为识别

提出了一种基于上下文和稀疏编码框架的无监督异常行为识别方法。首先对图像进行稠密采样,获得稠密轨迹,并提取轨迹中心周围图像块的形状特征、R–HOG、HOF特征作为特征描述符,加强了对运动信息的描述。其次,将人体行为区域和上下文区域分割开来建立2个独立字典。再将它们组成联合字典最大化字典信息,避免了单独识别人体异常行为而忽略上下文信息所导致的漏报。最后,利用稀疏重构的方法进行异常检测,分别计算测试样本中上下文区域和行为区域的重构误差,相对重构误差为负表示为正常行为,否则判断为异常行为。在KTH行为数据集上进行对比实验,实验结果表明本文算法在不同背景下均能有效识别异常行为。     

基于线性鉴别的无参数局部保持投影算法

针对局部保持投影算法的无监督性质和参数选择复杂性问题,结合线性鉴别分析算法,提出一种改进的有监督无参数局部保持投影算法(Linear Discriminant Supervised Parameter-free Locality Preserving Projection algorithm,LD-SPLPP). LD-SPLPP算法采用监督模式并使用广义Dice系数的方法构建近邻矩阵,有效避免LPP(Locality Preserving Projection)算法参数选择调整的问题.新算法在UCI的八个低维度数据集和两个高维度人脸数据库上进行了实验,通过对数据的特征提取,采用最近邻分类法统计识别率,并分析了实验分类后的数据值与算法性能的关系.上述实验过程中,将新算法与PCA,LDA,ULDA,OLDA,LPP,SPLPP,PSKLPP,PSLMM和EP-SLPP算法进行了对比,实验结果证明了LD-SPLPP在数据降维和特征提取方面的有效性.     

基于结构和约束保持的半监督特征选择

针对现有特征选择算法较少同时考虑样本的空间结构和先验知识的不足,提出一种基于结构和约束保持的半监督特征选择方法。该方法采用成对约束作为先验知识,同时考虑局部和非局结构,定义了一种新的特征评价准则——结构和约束保持分值。利用大量的无标记样本来学习样本空间结构,利用少量的成对约束信息来学习类内和类间边缘,所选择的特征子集能较好地保持空间结构信息和类属信息。在多个数据集上的实验结果表明,和现有的几种特征排序选择算法相比,所提方法有较好表现。