基于主动学习SVM分类器的视频分类

提出一种基于主动学习SVM分类器的视频分类算法.该算法分为两个步骤:首先分析并提取与视频类型有关的十维底层视觉特征;然后用SVM分类器建立这些底层特征与视频类型之间的联系.在获取SVM分类器所需的训练样本时,采用主动学习的方法选择对SVM分类器最"有用"的样本提供给用户进行标注,用更少的训练样本获得与大量训练样本近似的分类效果,从而减轻用户标注负担.针对多类SVM分类的主动学习问题,提出用后验概率计算分类器对未标注样本的置信度进行样本选择.实验结果表明,主动学习算法与随机采样标注的被动学习算法相比,在相同的训练样本情况下能够获得更高的分类精度;而基于后验概率选择样本的主动学习要略好于传统的基于变型空间(version space)选择样本的主动学习.     

基于数据关系的SVM多分类学习算法

提出一种基于数据关系(Data Relationship,DR)的多分类支持向量机(Support Vector Machine,SVM)学习算法(Multi-Classification SVM Algorithm Based on Data Relationship,DR-SVM).DR-SVM算法根据每类数据的关系(如向量积等)获取子学习嚣的冗余信息,从而优化多分类器组,然后通过经典的SVM算法训练分类器组.算法在简化分类器组的同时可对多类数据分类问题获得满意的泛化能力,在标准数据集上的实验结果表明,与经典的SVM多分类方法相比,DR-SVM具有更好的泛化性能,尤其对单个类别精度要求较高的数据尤其有效.     

一种新的 SVM 决策树

SVM在小训练样本、高维情况下具有很好的泛化性能,但它不适用于多类分类.本文分析基本的SVM和多类SVM分类器,重点讨论了SVM决策树,提出了一种结点分类器类集合划分方案来构造SVM决策树.实验结果表明,以这种方法构造的SVM决策树分类器分类性能较好.     

一种面向稀疏表示的最大间隔字典学习算法

近年来,基于稀疏表示的分类技术(SRC)在图像分类和目标识别中取得了巨大的成功。在该框架中,过完备基的学习和多类分类器(通常为支持向量机SVM)的训练是最关键的两个步骤。但在目前的许多方法中,这两个模块的构建过程都是相互独立的。该文针对以上问题,提出了一种用于稀疏表示的最大间隔字典学习算法,将两类SVM分类器的损失函数项的平方及分类间隔作为正则项与稀疏字典的学习过程进行了整合,并提出相应的坐标轮换优化算法对目标函数进行优化,实现了字典和分类器的同步学习。所提出的框架能够增强多类分类器中两类分类器的推广性能,并减少多类分类器的误差界。为了对所提出算法的性能进行评价,在2个常用标准库上进行了分类实验。结果表明,所提出的算法的与SRC相比识别率提升均超过3%。     

利用支持向量机SVM识别车辆类型

支持向量机（Support Vector Machine，SVM）分类方法在实际二类分类问题的应用中显示出良好的学习和泛化能力，已被广泛地应用于多类分类问题的研究．以车辆轮廓特征为对象，将二类分类支持向量机SVM应用于多类车辆类型的识别，并与其它分类器的分类结果进行了对比．通过9次交叉验证实验，结果表明SVM对车辆数据样本的测试准确率达到了85．59％，其分类性能优于其它分类器．     

一种新的多类SVM方法及其在文本分类中的应用

提出一种将SVM扩展到多类文本分类问题的新方法,此方法有增量模式及批模式两种应用途径。其中,批模式提供了一种其他多类SVM替代方法;而增量模式在重复利用原有模型的基础上将新增类别的知识信息以增量方式更新到分类系统,整个分类器不需要全部重新学习,需要的计算量较小。实验表明增量方法大大减少新类增加时分类器更新所需要的学习步骤和时间;两种模式的分类效果与其他方法相当。     

从RBF核函数中抽取关联分类规则

目的为解决SVM分类器的分类模式难以为人类专家所理解等问题而提出一种有关InterRBF算法的新思路。方法通过将RBF核函数将其展开成麦克劳林级数,并从展开式中挖掘对分类分析起重要作用的关联规则,从而在SVM的分类模式中学习出关联规则分类器。结果改进后的SVM分类器具有较好的分类准确度;改变了当前研究从SVM的分类模式中抽取规则的方法仅限于IF-TEHN规则或者学习出决策树的状况。结论从RBF核函数抽取关联分类规则,对于在难以理解的知识中提取可理解的表达规则是可行的方法。     

基于一类SVM概率密度估计的多分类贝叶斯算法研究

为降低训练分类器的运算复杂度，并解决支持向量机（SVM）对多类分类问题没有特别有效解决方法的问 题。提出了一种基于一类支持向量机的多分类贝叶斯算法，证明了基于径向基核函数的一类SVM的分类函数归 一化为密度函数，并将所得的概率密度函数用于构造二分类及多分类贝叶斯分类器。仿真实验将提出的多分类贝 叶斯算法应用于多类通信信号调制识别，结果表明：该算法的分类准确率不低于传统SVM多分类器，而在多类属、 每类训练样本数目较大的情况下训练所需的运算量和存储量仅是传统SVM多分类算法的0.5%大大减小了核 矩阵规模和     

一种基于可行域解析中心的多类分类算法

在分析OvA多类分类方法及基于SVM的多分类器的不足的基础上,提出一种基于可行域解析中心的多类分类器MACM．由于该分类器对应可行域解析中心且无需重复构造k个两类分类器,因此它解决了OvA方法计算量大及分类速度低问题,同时也克服了基于SVM的分类器在可行域不对称或狭长时,泛化能力明显降低问题．实验结果验证了上述观点,证明了MACM的有效性．     

基于可靠性测度的多类支持向量机

多类分类问题是我们经常遇到的问题,常用的方法是将多类问题转化为若干个二类问题,然后利用二类支持向量机(support vector machine,SVM)进行分类,如一对余SVM,一对一SVM,决策树SVM等.在这些方法中,大都没有考虑所生成的多个分类器之间的可靠性和重要性问题.为了改进这一点,本文以一对余SVM为例,提出了两种基于可靠性测度的多类分类算法,算法的思想可用于一对一SVM,决策树SVM等其他多种分类器中.为了检验所提算法的有效性,本文进行了比较试验,实验结果表明所提算法不仅提高了分类准确度,而且具有更为广泛的推广能力.     

基于SVM的多类分类集成

为了解决单个SVM可能产生的泛化能力恶化问题以及当SVM采用一对多组合策略解决多类分类时可能产生的误差无界情况,本文采用Bagging方法构造了一个基于SVM的多类分类集成模型,利用MIT KDD 99数据集进行仿真实验,通过实验探讨了其中的两个参数——训练样本数和单分类器个数对集成学习效果的影响,并将其与采用全部样本进行训练及部分样本进行训练的单分类器检测进行了比较。结果表明：集成学习算法能够有效降低采用全部样本进行训练所带来的计算复杂性,提高检测精度,而且也能够避免基于采样学习带来检测的不稳定性和低精度。     

基于线性SVM子空间的正面人脸检测研究

通过对二阶段的子空间方法的研究,提出了基于线性SVM子空间的正面人脸检测方法.首先构造线性SVM粗分类滤波器,然后在线性SVM粗分类滤波器分割的子空间内构造高斯核的非线性SVM分类器.检测时.为了加快速度引入了平均脸模板匹配进行粗筛选,然后依次通过线性SVM粗分类滤波器、非线性SVM分类器进行人脸检测.     

改进的SVM决策树分类算法

为解决多类分类问题,在分析SVM决策树分类器及存在问题的基础上,通过引入类间可分离性测度,并将其扩展到核空间,提出一种改进的SVM决策树分类器。实验表明了该分类算法对提高分类正确率的有效性。     

基于最大似然和支持向量机方法的遥感影像地物分类精度评估与比较研究

遥感影像的监督分类算法在环境监测、地质调查等领域均有重要应用。本文利用最大似然(ML)分类器和支持向量机(SVM)分类器对土地利用和地表覆盖问题中地物类型的提取和识别进行研究,系统分析两种不同分类方法对地物分类结果的影响。通过选取Landsat LT5和LE7卫星遥感影像数据及定义训练样本,对比分析利用ML和SVM分类器的分类成果精度,其中Landsat LT5和ML、SVM组合的分类精度分别达94.64%和94.98%,而Landsat LE7和ML、SVM组合的分类精度则分别达97.63%和99.29%。研究表明,对于LT5影像,ML和SVM两种分类器的精度相当,而对于LE7影像,SVM分类器的精度明显高于ML分类器。     

基于单个特征分类准确率的特征选择方法研究

【目的】随着遥感技术迅猛发展,在影像解译过程中提取的信息越来越繁杂多样。为提高地物分类准确率,常加入更多的特征信息,而由此往往造成一定的信息冗余,导致分类效率甚至准确率降低。笔者利用随机森林(RF)和支持向量机(SVM)分类器,探索在遥感分类过程中保证分类精度的同时又能降低特征维度的方法。【方法】以吉林省安图县福兴林场部分区域为研究对象,利用2015年Landsat-8影像为数据源,提取光谱信息(红、绿、蓝、近红外和短波红外波段)、植被指数(NDVI、增强型植被指数、比值植被指数和裸土植被指数)、纹理(同质性、均值、二阶矩、方差、差异性、对比度、熵和相关性)和地形信息(坡度和坡向)共19个指标作为分类特征变量。以RF分类器估测的特征重要性进行特征选择为对照,分别以单个特征在RF和SVM两分类器中的分类准确率为依据进行特征选择,并对选取的特征进行主成分分析,与未做主成分分析的进行区分,再分别用RF和SVM分类器进行分类,评价分类精度,确定最优特征和分类器组合。【结果】①基于SVM单个特征分类准确率选取特征,对选取的特征进行主成分分析,再用RF进行分类,该方法与其他方法相比分类性能最好,当特征维度为5时,总体精度为0.86,Kappa系数为0.83; 与输入全部特征进行分类相比,不仅提高了分类精度,而且降低了特征维度,使分类效率得以提升。基于RF特征重要性选取特征的RF分类取得了较高的分类准确率,但特征维数小于7时,分类准确率波动较大; 在特征维数为4时分类准确率增至最大值(0.88),随后骤降为0.83,之后基本保持在此水平。而基于单个特征分类准确率选取特征,分类准确率变化较为平缓,如上所提最优分类性能方法的分类准确率波动范围基本在0.02。②基于单个特征在RF和SVM分类器中的分类准确率进行特征选择,在随后的分类过程中,SVM分类器分类精度总体高于RF。基于RF单个特征分类准确率选取特征的SVM分类,及基于SVM单个特征分类准确率选取特征并对选取特征进行主成分分析的RF分类,较仅利用SVM或RF单个分类器选取特征并分类的分类准确率更高。【结论】①基于单个特征分类准确率的特征选择方法,可在保证分类精度的同时降低特征维度,且在较低维度时,基于该方法选取特征的分类精度较基于特征重要性选取特征的分类精度更稳定。②基于单个特征分类准确率进行特征选择,不同分类器选取的特征有所差异,分类准确率也不同,利用多个分类器较单个分类器选取特征并分类的性能更好。③在中低维度时,RF分类器的分类准确率可能与特征输入顺序有关,对输入特征进行主成分分析有利于提高分类器的分类精度及稳定性。     

若干评价准则对不平衡数据学习的影响

为解决绝大部分传统的以精度准则为优化目标而获得的分类器不适于不平衡数据学习(IDL)的问题,文中通过在支持向量机(SVM)模型上进行"元学习",研究了精度、平衡精度、几何平均、F1得分、信息增益、AUC(ROC曲线下方图面积)以及文中新提出的GAF和GBF等评价准则对IDL的影响.在16个来自UCI的不平衡数据集上进行了仿真实验.对实验结果的统计分析表明:不同准则对分类器性能的影响有显著差异;即便是对于先进的学习方法支持向量机(SVM)而言,若以精度准则最大化选择分类器,那么得到的SVM分类器也容易偏向预测多类;通过在其他准则上优化,能输出纠偏了的SVM分类器,它们的整体性能更好,尤其是在预测少类能力方面;在GAF以及GBF准则上优化所得的SVM分类器具有稳定且良好的性能.     

基于SVM的不同特征空间多分类方法研究

目前,在基于SVM的分解多分类方法中,各个子分类器都采用相同的核参数进行整体优化.如果采用不同的核函数参数分别优化各个子分类器,相当于在不同的特征空间进行分类,此时,能否直接采用求输出最大值(MaxWin)等判别策略,需要研究各分类器的输出是否可比.利用相对间隔对此问题进行深入的研究,说明在基于SVM的"一对多"等多分类方法中,采用不同的核参数分别优化各个子分类器,其决策函数的输出结果仍是可比的,且具有更好的泛化能力.     

一种基于相似度的高效网络流量识别方案

支持向量机(support vector machine,SVM)是分类算法中集高效性、准确率和实时性于一体的分类方案。但由于在SVM分类决策的过程中,无关的分类器也参与了投票,使得方案的实时性和分类可靠性有一定程度的降低。提出了基于相似度的高效SVM网络流量识别方案(efficient SVM based on similarity,ESVMS)。ESVMS通过估算待分类实例可能所属的类别范围,排除SVM中那些无关分类器的投票决策。实验结果表明ESVMS较SVM分类准确度几乎没有降低,但分类实时性进一步提高。     

一种多分类的微博垃圾用户检测方法

针对微博多类垃圾用户的检测问题,设计了一种基于模糊多类支持向量机的垃圾用户检测方法。首先,采用一对多SVM(support vector machines)的构造思想来构造多分类器,并针对每类用户的分类器重新选择训练集;然后,利用构造好的训练集来训练多分类器,经过反复调整参数,得到5个用户分类器;最后,针对多分类器的不可分样本,采用模糊聚类来进行模糊处理,即在垂直于SVM的最优分类面上定义一个改进的隶属度函数,选择最大隶属度对样本进行再分类。实验结果表明,该方法在保证垃圾用户检测效果的前提下,可以解决多分类中存在的混分和漏分问题。     

基于支持向量机的主动学习方法及其实现

根据主动学习可以有效地减少标注样本的代价这一特点,设计了一种基于SVM的主动学习方法.仿真实验中,检验分类正确率和F测度这两类评估指标,结果表明基于SVM的主动学习的学习效果优于被动学习.