基于协同表示标签传播的半监督正交鉴别分析算法

近年来由于其表示的有效性,基于表示的分类方法,例如稀疏表示分类器(SRC)或者协同表示分类器(CRC)被广泛的应用于各种各样的识别任务.但是,SRC或者CRC的性能严重依赖于每类带标签训练样本的个数,当每类带标签的训练样本不够充分,SRC或者CRC的识别性能将会显著地下降.为了解决这个问题,文章[34]把协同表示技术引入到半监督学习方法中,提出了一种基于协同表示的标签传播算法,有效的利用了大量未标记样本的信息来进行标签传播.受此启发,把这种标签传播算法与正交鉴别分析算法相结合,提出了一种基于协同表示标签传播的半监督正交鉴别分析算法,目的是为了学习一个更好的鉴别子空间.不同于传统的半监督降维方法,所提算法首先利用这种标签传播算法将部分有标签数据的标签信息传递给不带标签的数据,之后利用传播后获得的全体软标签信息构造离散度矩阵实现鉴别分析,其次对鉴别投影施加正交约束,采用一种更加有效快速的迹比优化算法进行鉴别分析.大量的实验结果验证了所提算法的有效性.尤其在只存有少量标签样本的情况下,算法仍能保持良好的分类性能.     

高光谱图像半监督局部稀疏嵌入降维算法

针对目前高光谱图像半监督降维算法中基于流形学习的开放性选择近邻参数问题,以及利用传统算法不能有效地获取标签数据的局部信息,提出了一种无需考虑近邻参数的半监督局部稀疏嵌入（SELSE）算法.该算法基于稀疏表示理论,通过求解范数优化问题构建稀疏系数图,并且利用有限的标签数据最大化类间信息,提取高光谱图像的特征.在AVIRIS高光谱遥感图像的Indian Pine数据集上进行仿真实验,结果表明所提出算法在分类精度和计算效率上都有所提高.     

非对称稀疏图的半监督学习研究

【目的】如何构造一个有效的数据图,是半监督学习领域中一个重要的研究方向,为了更好地研究数据样本之间的结构关系,提高基于图的半监督学习算法性能。【方法】利用数据的稀疏表示,构造数据样本的非对称图,并在标准数据集上进行半监督学习实验。【结果】在半监督学习框架中建立了异类数据和同类数据之间距离、内部结构和数据的稀疏表示关系,构造了非对称稀疏的数据图。【结论】通过在标准数据集上进行实验说明非对称稀疏图可以利用半监督学习数据特点,有效地对数据样本进行分类。
     

半监督稀疏鉴别核局部线性嵌入的非线性过程故障检测

复杂过程往往受到运行状态复杂、工作条件恶劣等因素影响,过程数据具有很强的非线性、随机性和流形结构.近年来,核局部线性嵌入(kernel locally linear embedding,KLLE)已经成功应用于复杂过程故障检测.然而KLLE是一种无监督流形学习算法,能够保持样本的局部几何信息,忽视了总体数据样本集全局/非局部鉴别信息.针对上述问题,本文提出一种新的半监督稀疏鉴别核局部线性嵌入(semi-supervised sparse discriminantKLLE,SSDKLLE)算法并用于非线性工业过程故障检测.本文主要贡献如下:(1)把半监督学习与Fisher鉴别分析(fisher discriminant analysis,FDA)引入到KLLE,有效地利用了总体数据集几何鉴别信息,提高了算法对不同类别数据的分离性;(2)基于稀疏表示通过重构优化方法对信号自适应稀疏表达的优点,利用稀疏表示自适应选择最近邻样本以及数目,提高算法鲁棒性和局部保持性能;(3)引入局部邻域处理以及核技巧策略降低过程工况数据变化对监测算法的影响,提高非线性多工况过程监测方法的性能.基于UCI数据和TE平台的仿真实验结果验证了所提算法的有效性.     

二次近邻稀疏重构法及人脸识别

基于整个数据集的稀疏表示(sparse representation classification,SRC)用于人脸识别在很大程度上影响了运行效率.如何利用较少样本稀疏表示在保证计算效率的同时,识别率也有一定提升,尤其是面对光照、角度、姿态等非受控环境,目前仍是一个问题.考虑到协同表示(collaborative representation classification,CRC)基于l2范数稀疏求解的优势,为进一步提升CRC的整体分类性能,引入类内近邻,提出一种二次近邻稀疏重构表示法.该方法首先在原始训练集上选择各类训练样本中与待测样本距离相近的若干样本组成近邻样本集,并协同表示,接着分别用各类近邻样本重构待测样本,再次选择与待测样本相近的若干重构样本协同表示,最终实现模式分类.在ORL和FERET数据库上的仿真实验表明,相比现有的一些CRC算法,该方法在一定程度上缩短了运行时间,并使识别更精确.     

特征空间中的拓展稀疏人脸识别

基于稀疏表示分类（SRC,sparse representation for classification）是近年来模式识别领域中备受关注的一个研究热点。当每类训练样本较少时,SRC的识别效果往往不理想。为解决此问题,人们提出了拓展的稀疏表示分类算法。它引入了训练样本的类内变量矩阵,来补充每类训练样本信息。但是,该方法很难获取普遍存在于复杂数据如图像中的非线性信息。为此,提出了特征空间中的拓展稀疏人脸识别算法。该算法将样本集非线性映射到新的特征空间中,计算每个训练样本在表示测试样本时所做的贡献。根据贡献大小,给每个训练样本赋予一定的权重。同时,利用类内变量矩阵,共同表示测试样本。实验表明所提出的算法优于其它经典稀疏表示分类算法。     

L_(3/2)正则化图非负矩阵分解算法

基于图正则化非负矩阵分解算法(GNMF),提出一种基于凸光滑的L3/2范数正则化图非负矩阵分解算法.该算法用非负矩阵分解算法对数据进行低维非负分解时,根据流形学习的图框架理论,构建邻接矩阵保持数据局部几何结构,并对数据的低维表示特征进行凸光滑的L3/2范数稀疏性约束,在给出算法更新迭代规则的同时,从理论上证明了所给算法的收敛性.通过人脸数据库ORL、手写体数据库USPS和图像库COIL20的仿真实验表明,相对于非负矩阵分解算法及其基于稀疏表示的改进算法,所给算法均具有更高的聚类精度.     

基于非负矩阵分解最小二乘的多视角行人分类算法

针对不同视角的行人样本具有较大的类内差异性,造成多视角行人识别错误率较高的问题,提出一种基于非负矩阵分解最小二乘的多视角行人分类算法.采用非负矩阵分解的方法对多视角的行人样本图像进行子空间分解,提取基向量;引入协同表示的方法并在最小二乘约束下,对子空间进行稀疏表示获得稀疏分解系数;利用近邻子空间方法对分解系数进行分类.基于自行构建的多视角行人数据库进行对比实验,结果表明该算法的准确性和有效性优于其他方法.     

基于图的微博广告文本识别

大量的微博广告影响了微博数据分析模型的使用.针对微博广告文本识别问题,利用基于图的半监督的标签传播算法,指导计算机从大量的非结构化的微博文本中自动识别出微博广告.通过对实验数据的评测,结果显示,当已有标签样本较少时,基于图的半监督的标签传播算法能够获得比有监督的支持向量机和朴素贝叶斯算法更好的性能.     

非对称稀疏图的半监督学习研究

【目的】如何构造一个有效的数据图,是半监督学习领域中一个重要的研究方向,为了更好地研究数据样本之间的结构关系,提高基于图的半监督学习算法性能。【方法】利用数据的稀疏表示,构造数据样本的非对称图,并在标准数据集上进行半监督学习实验。【结果】在半监督学习框架中建立了异类数据和同类数据之间距离、内部结构和数据的稀疏表示关系,构造了非对称稀疏的数据图。【结论】通过在标准数据集上进行实验说明非对称稀疏图可以利用半监督学习数据特点,有效地对数据样本进行分类。     

从希尔伯特-施密特独立性中学习的多标签半监督学习方法

基于希尔伯特-施密特独立性提出了一种新的半监督学习方法,称为最大化依赖性多标签半监督学习方法（dependence maximization multi-label semi-supervised learning method,DMMS）。该方法将样本已有标签作为约束,以最大化特征集和标签集的关联性为目标,通过求解一个线性系统为无标签数据打上标签,具有实现简单,无参（nonparameter）的特点。多个真实多标签数据库的实验表明,DMMS与最好的多标签学习方法,包括多标签近邻（multi-labelk-nearest neighbor,MLKNN）和图半监督学习方法具有类似的识别效果。     

基于稀疏编码的迁移学习及其在行人检测中的应用

行人检测是计算机视觉领域中的研究热点,其实质是一个二分类问题.目前基于统计的行人检测技术已取得了一定进展,但大都需要大量的训练数据.针对这一问题,提出了一种基于迁移学习的半监督行人分类方法:首先基于稀疏编码,从任意的未标记样本中,学习到一个紧凑、有效的特征表示;然后通过迁移学习,将学习到的特征表示方法迁移到行人分类中.在MIT行人数据库上的实验结果表明:该方法能有效地刻画出行人的特征,提高行人分类的性能,在标记样本少的情况下仍具有良好的分类效果,因此可应用于行人检测中.     

Improved Semi-supervised Clustering Algorithm Based on Affinity Propagation

A clustering algorithm for semi-supervised affinity propagation based on layered combination is proposed in this paper in light of existing flaws. To improve accuracy of the algorithm,it introduces the idea of layered combination, divides an affinity propagation clustering( APC) process into several hierarchies evenly,draws samples from data of each hierarchy according to weight,and executes semi-supervised learning through construction of pairwise constraints and use of submanifold label mapping,weighting and combining clustering results of all hierarchies by combined promotion. It is shown by theoretical analysis and experimental result that clustering accuracy and computation complexity of the semi-supervised affinity propagation clustering algorithm based on layered combination( SAP-LC algorithm) have been greatly improved.     

一种面向稀疏表示的最大间隔字典学习算法

近年来,基于稀疏表示的分类技术(SRC)在图像分类和目标识别中取得了巨大的成功。在该框架中,过完备基的学习和多类分类器(通常为支持向量机SVM)的训练是最关键的两个步骤。但在目前的许多方法中,这两个模块的构建过程都是相互独立的。该文针对以上问题,提出了一种用于稀疏表示的最大间隔字典学习算法,将两类SVM分类器的损失函数项的平方及分类间隔作为正则项与稀疏字典的学习过程进行了整合,并提出相应的坐标轮换优化算法对目标函数进行优化,实现了字典和分类器的同步学习。所提出的框架能够增强多类分类器中两类分类器的推广性能,并减少多类分类器的误差界。为了对所提出算法的性能进行评价,在2个常用标准库上进行了分类实验。结果表明,所提出的算法的与SRC相比识别率提升均超过3%。     

基于随机矩阵的高光谱影像非负稀疏表达分类

考虑到常规的高光谱影像稀疏表达分类模型的不足,提出随机矩阵-非负稀疏表达分类模型来提高高光谱影像的分类精度.通过引入随机矩阵来改善传统稀疏表达分类模型中测量矩阵以更好满足限制等距特性条件,同时限定系数向量的非负性以提高重构系数的可解释性.基于两个不同的高光谱数据集,对随机矩阵-非负稀疏表达分类模型采用三种方法进行系数重构,并对比常规稀疏表达分类模型的分类结果.实验证明,所提的模型能够明显提高常规稀疏表达分类模型的分类结果.同时,随机矩阵的投影维数对分类精度的影响研究实验表明,较大的投影维数能够保证该模型用以提高高光谱影像的分类精度.     

基于联合动态稀疏表示方法的多图像人脸识别算法

采用联合动态稀疏表示方法构造一种新型的多图像人脸识别模型.该模型在多张人脸图像的稀疏表示矩阵上,利用动态数集得到联合动态稀疏表示矩阵,识别多图像的人脸.在多张人脸图像作为测试样本的情况下,利用多图像之间的关联性提高人脸图像识别的准确率.最后利用CMU人脸图像库对该算法进行仿真,结果表明其识别率较其他算法有很大的提高.     

基于改进主动学习和自训练的联合算法

针对主动学习面向大型数据集人工标记成本过高和半监督自训练算法中存在误标记点影响的问题,提出了一种主动学习与半监督自训练交替迭代训练的联合算法．算法在训练过程中奇数轮次采用主动学习算法,偶数轮次采用自训练算法,通过2种算法的交替迭代训练以弥补彼此不足．自训练算法对无标记样本的预测减轻了主动学习标记样本的负担,同时主动学习标记易变成噪声的样本,减轻了自训练算法训练过程中对样本的标记错误．提出了一种基于密度峰值聚类和隶属度的改进主动学习算法:将初始无标记样本聚类成簇,根据隶属度差值在每个簇内选取部分样本做人工标记,获得可表达样本的整体结构的均衡样本．仿真试验表明:提出的联合算法在性能上要优于2种单一算法．对比常见的主动学习算法,改进后的主动学习算法分类性能得到显著提升,将其应用于联合算法中的效果更具优势．