多视角半监督分类算法比较及研究进展

随着科技的发展,数据的获取渠道变得越来越多,所获得的数据也越来越多样化,多视角数据在目前的应用也已经相当普遍.但是在处理真实世界的问题时,获得的多视角数据一般只带有少量标签,而人工标注的成本比较高昂,因此多视角半监督学习在机器学习和图像处理领域引起了许多学者的关注.本研究对近年来提出的多视角半监督分类方法进行归类,并对多视角半监督分类方法所面临的挑战进行讨论.     

分类监督半定嵌入算法

基于谱分析流形学习算法——半定嵌入算法(Semi-definite Embedding,SDE),提出了两种监督型的SSDE算法,即基于权重的SSDE算法和基于最佳距离度量的SSDE算法,数值实验验证了算法的有效性。     

基于Biased-SVM的非平衡半监督分类算法

针对非平衡数据的半监督分类问题,提出了一种基于Biased-SVM的非平衡半监督分类算法.该方法首先利用初始的标记样本集训练处理不平衡数据的Biased-SVM模型,然后用训练好的Biased-SVM模型为未标记样本加上标签,再把新标记样本加入到初始标记样本集中,重新训练Biased-SVM模型,最后在测试集上进行测试.选取公共数据库里的一些数据集进行实验,首先在两类不平衡数据集上实验的结果表明,在标记样本所占比例为20%~80%时,所提方法能够在不降低数据集整体G-mean值的基础上,提高小类的F-value值并具有较高的稳定性;然后在多类不平衡数据集上实验的结果表明,在标记样本所占比例为20%~80%时,所提方法能够在不降低数据集整体的EG-mean值的基础上,提高小类识别率并具有较高的稳定性.     

基于模糊粗糙集的半监督影像分类算法

针对影像分类中少量标记样本问题,提出了基于模糊粗糙集的影像半监督分类算法.首先,通过模糊粗糙集对数据的粗糙性与模糊性进行建模,采用归一化的模糊互信息来度量特征与类别信息的相关性,并利用模糊上下近似度量样本的类别隶属度;然后,结合归一化的模糊互信息改进正则化框架下的特征评价方法,在谱图分析的半监督特征选择框架下实现特征优选;其次,结合近邻约束提高模糊上下近似预测样本类别的准确性,设计基于模糊粗糙集的约束自学习,选择信息量大的未标记样本更新训练样本集;最后,利用新的样本集训练分类器,完成影像分类任务.多组实验表明所提算法能够在少量标记样本的条件下有效提高影像的分类精度.     

半监督学习贝叶斯分类

分类器的学习采用半监督贝叶斯方法,使用EM算法求解最大似然估计,实验结果表明能够获得较好的结果。     

半监督支持向量机的多分类学习算法

半监督支持向量机同支持向量机一样,已经在很多分类、归类问题上取得较好的效果,但是支持向量机需要求解二次凸规划,因此在处理大规模数据时会消耗大量存储空间和计算时同,特别是在多分类问题上则更加困难.因此,提出一种半监督支持向量机算法,适合多分类问题,并将其用于解决实际问题.     

一种基于协同训练半监督的分类算法

为提高少量样本情况下分类器的性能,提出一种基于多分类器协同的半监督样本选择方法,利用未标注样本实现样本增强,提高分类器泛化能力.依靠多分类器的互相监督和多分类器标签一致的原理,将已标记样本作为训练集,利用SVM和RF两个分类器协同训练,多分类器的类别标签和确定度值作为约束条件,从未标记样本集中筛选出最有代表性的样本构成增强样本集,以准确率为评价标准,验证本算法对分类器泛化性能的影响.本算法在手写数字数据集(Mnist字符库)和Landsat土壤数据集上测试,实验结果表明相比少量原始训练样本构建的分类器,增强样本构建分类器预测的全部类别准确率都得到提升.两个数据集的总体准确率分别提升5.97%和7.02%,Mnist数据集中数字5这类准确率提升最高(提升11.9%,从79.3%到91.2%),Landsat土壤数据集中土壤3这一类准确率提升最明显(提升15.8%,从73.5%到89.3%),结果证明了该算法显著提高了分类器的泛化性能.同时与经典的KNN、Co-training和Co-forest算法对比,所提出的算法能够最大限度地利用未标记样本信息,具有最好的精度表现,证明了该研究提出算法的优越性.     

一种基于KNN的半监督分类改进算法

本文提出一种新的基于KNN分类的半监督学习self-training改进算法,并以多个UCI数据集为实验,对基于KNN的半监督分类模型算法进行改进,充分利用已知类别标签数据的正确知识进行自训练,以得到最终分类结果.实验结果表明,该方法能显著提高分类准确率.     

多视角半监督分类算法： 最新进展与比较研究

随着科技的发展,数据的获取渠道变得越来越多,所获得的数据也越来越多样化,多视角数据在目前的应用也已经相当普遍. 但是在处理真实世界的问题时,获得的多视角数据一般只带有少量标签,而人工标注的成本比较高昂,因此多视角半监督学习在机器学习和图像处理领域引起了许多学者的关注. 本文总结了近年来发表的多视角半监督分类方法并对这些方法进行了归类,对多视角半监督分类方法所面临的挑战进行了讨论.     

一种多分类器协同的半监督分类算法SSC_MCC

为了提高半监督分类性能,提出了一种多分类器协同的半监督分类算法SSC_MCC.算法采用双层结构集成,使用多条件判断挖掘未标记样本信息,扩充有标记样本.第一层中,采用三分类器协同投票一致策略实现对未标记样本进行标记,第二层中采用基于正确分类率的分类器加权投票决策标记未标记样本,扩充有标记样本,用最终生成的有标记样本训练分类器,实现半监督分类.最后,使用UCI数据集模拟半监督实验,结果表明SSC_MCCL较好地提高了半监督分类性能.     

基于样本选择策略的SAR图像半监督分类算法

针对当前SAR图像半监督协同训练分类算法受相干斑噪声干扰等问题,本文提出了基于选择策略的SAR图像半监督分类方法.该方法首先以超像素为基本单元,在获取伪样本过程中,利用典型相关性分析作为SAR图像高置信度样本补充判别器,而对于低置信度样本,提出基于超像素和主动学习的样本扩充方法,然后基于扩充后的样本实现SAR图像的半监督分类;最后通过理论分析和实验验证了该方法在标注样本较少的情况下,取得了较好的效果和精度,降低了相干斑噪声对分类效果的影响.     

基于核方法的半监督超图顶点分类算法分析

分类学习算法的研究是计算机科学的研究热点,超图上顶点的分类问题作为一般图顶点分类问题的推广,被广泛应用于各种计算模型。对基于核方法的半监督超图顶点分类算法进行理论分析,给出算法的收敛性分析和广义界估计值。     

基于一种多分类半监督学习算法 的驾驶风格分类模型

基于驾驶模拟平台设计实验方案,同步采集驾驶员的驾驶操作信息和车辆状态信息,选取6个表征驾驶风格的特征参数,采用主成分分析(Principal Component Analysis,PCA)算法对多元特征参数进行特征提取,将前3个主成分作为驾驶风格识别模型的特征输入.利用K-means聚类完成样本标记工作.基于有监督支持向量机(Support Vector Machine,SVM)与多分类半监督学习算法(i MLCU)的原理,分别建立SVM与i MLCU驾驶风格识别模型,通过调节标记样本与未标记样本比例,对比使用不同样本比例训练的SVM和i MLCU模型的驾驶风格识别准确率.结果表明:相比于SVM,i MLCU表现出了更优异的驾驶风格识别能力,由此可知半监督i MLCU模型可以利用未标记样本提高模型对驾驶风格的识别能力.     

时间序列半监督分类综述

绝大多数现有的时间序列分类方法需要大量已标记样本,但这样的数据非常难获得且价格昂贵。因此,当已标记样本较少时,如何使用大量无标记样本来改善分类性能已成为广受关注的问题,本文对近年来时间序列半监督分类方面的研究,从基于实例、基于聚类、基于模型的角度,进行了比较归类,为了解时间序列半监督分类的技术及发展趋势提供了参考。     

基于改进标签传播算法的高光谱图像半监督分类

针对标签传播算法缺乏对新生成样本的评价进而影响分类精度的问题,本文提出一种利用阈值的标签传播算法来提高高光谱图像的分类精度。首先,用基于图像融合和递归滤波的特征提取方法对原始高光谱图像进行处理。然后,给出一个阈值并对标签传播算法新生成样本进行评价,保留一些可信度较高的样本。最后,保留的新样本和已标记样本之和作为训练样本,对图像进行分类。实验表明,基于改进标签传播算法优于其他的高光谱图像分类算法。     

半监督分类学习问题在生物信息学中的研究进展——以间谍算法为例

近年来,随着生命科学研究的不断发展,生物信息学这个利用智能算法处理生物数据的新型交叉学科越来越受到科研工作者的关注.机器学习在智能算法的研究中占据极其重要的地位,而机器学习中的半监督分类学习在生物信息学中有着广泛应用.以半监督分类学习中的间谍算法为例,首先回顾了半监督分类学习的发展历程,分析了该方法的研究现状,然后描述了间谍算法在生物信息学研究中的应用,最后总结了间谍算法的优势和局限性,并且讨论了可以改进的方向和未来的发展.     

半监督Relief-F特征选择算法

数据规模的不断增加,使得为数据库中全部样本做标记变得尤为困难,数据集也因此呈现出了明显的弱标记性.为此,针对大规模少数标记数据集的特征选择问题,基于经典的Relief-F算法,通过综合考虑有标记样本与无标记样本对数据样本近邻的影响,重新定义样本近邻的搜索策略,提出了一种面向符号数据的半监督特征选择算法.为进一步分析新算法的有效性,仿真实验中选取了5组UCI数据集,并引入机器学习中3个常用分类器对新算法和对比算法的特征选择结果的分类性能作了分析和比较,实验结果很好地验证了本文中提出的新算法的有效性和可行性.     

半监督局部线性嵌入算法在人脸识别中的应用

提高人脸识别算法的识别率,提出一种基于半监督局部线性嵌入(Semi-Supervised Locally Linear Embedding,SSLLE)的人脸图像识别方法。针对局部线性嵌入(Locally Linear Embedding,LLE)算法非监督学习的缺陷,引入半监督思想,在构造邻域的时候利用部分样本的标签信息来重新调整距离矩阵;使用调整后的距离矩阵进行线性重建从而实现数据降维。在Yale和ORL人脸库上的实验结果表明,能有效的提高人脸识别的性能。     

基于社会关系网络的半监督情感分类

基于样本的社会关系, 提出一种新的半监督学习方法, 创建一种基于文档?词及社会关系的二部图模型, 并根据标签传播算法将未标注样本加入到分类器的构建中。实验结果表明, 加入社会关系网络的半监督情感分类方法明显优于传统的仅利用评论文本信息的半监督情感分类方法。     

结合聚类的半监督分类方法

针对传统有监督分类方法卷积神经网络(CNN)在有标签样本数较少时正确率偏低的缺点,提出一种结合聚类的半监督分类方法。该方法利用传统无监督聚类方法 K-means对卷积神经网络提取到的样本特征进行聚类并标记,扩充有标签样本数量,使得最终训练得到的卷积神经网络能够更好地进行分类。利用该方法在MNIST手写数据集上进行三组实验,实验结果显示,与K-means和卷积神经网络相比,本方法整体结构简单,便于实现,具有较高的分类准确率。