通过特征权学习增强支持向量机的泛化能力

在分类问题中,支持向量机(SVM)首先将样本映入某一高维特征空间,并在此空间中构造具有最大间隔的分类超平面.由Vapnik的统计学习理论知道,SVM泛化能力的强弱与分类超平面间隔的大小有十分密切的关系:分类平面的间隔越大,SVM的泛化能力就越强.本文提出了一种通过特征权学习来增加分类超平面的间隔,从而增强SVM泛化能力的方法.仿真试验表明,该方法对提高SVM的泛化能力是有效的.     

一种新的 SVM 决策树

SVM在小训练样本、高维情况下具有很好的泛化性能,但它不适用于多类分类.本文分析基本的SVM和多类SVM分类器,重点讨论了SVM决策树,提出了一种结点分类器类集合划分方案来构造SVM决策树.实验结果表明,以这种方法构造的SVM决策树分类器分类性能较好.     

基于最大间隔的支持向量机特征选取算法研究

支持向量机(Support Vector Machine,简称SVM)是一种有效分类方法.不同特征选取算法对分类器影响不同,结合支持向量机特点,提出了一种基于最大间隔的支持向量机特征选取算法.利用该算法,对Iris测试数据集进行了特征选取并仿真,实验结果表明,该算法不但能够有效去除噪音数据,而且提高了分类器推广与泛化能力.     

基于可靠性测度的多类支持向量机

多类分类问题是我们经常遇到的问题,常用的方法是将多类问题转化为若干个二类问题,然后利用二类支持向量机(support vector machine,SVM)进行分类,如一对余SVM,一对一SVM,决策树SVM等.在这些方法中,大都没有考虑所生成的多个分类器之间的可靠性和重要性问题.为了改进这一点,本文以一对余SVM为例,提出了两种基于可靠性测度的多类分类算法,算法的思想可用于一对一SVM,决策树SVM等其他多种分类器中.为了检验所提算法的有效性,本文进行了比较试验,实验结果表明所提算法不仅提高了分类准确度,而且具有更为广泛的推广能力.     

基于蝙蝠算法的支持向量机参数优化

目的针对支持向量机(support vector machine,SVM)的参数选择的重要性,研究一种新的参数优化方法。方法介于蝙蝠算法的模型简单、全局搜索能力强等特点。本文提出基于蝙蝠算法(BA)的SVM参数优化方法,对SVM的惩罚参数和核参数进行优化。结果通过8个UCI标准数据库集的Matlab仿真实验,验证了算法的有效性和可靠性。结论本文方法搜索的最优参数较大地提高了SVM的分类精度,加强了SVM的学习和泛化能力,是一种有效及稳定的支持向量机参数优化方法。     

基于SVM的决策树多类分类器及在遥感图像中的应用

利用三种不同的聚类方法——利用类均值的最小距离聚类、利用类均值的最大距离聚类和利用最大间隔准则聚类,提出了三个基于SVM的决策树多类分类器.为了检验所提算法的有效性和先进性,对AVIRIS遥感图像进行了实验.实验结果表明,本文所提的三种算法明显好于最小距离分类法、线性判别分类法、决策树分类法、OAR-SVM和OAO-SVM.     

一种基于关联规则的核粒度支持向量机

提出一种基于关联规则的核粒度支持向量机(association rules based kernel granular SVM,AR-KGSVM)学习算法.AR-KGSVM首先将输入空间中的样本用核函数映射到高维特征空间,然后在核特征空间挖掘基于距离度量的关联规则以划分粒.算法的粒划分和数据训练都是在高维核空间中进行,避免了一般的粒度支持向量(granular SVM,GSVM)在低维空间作粒划分而在高维空间中训练,使数据分布不一致而导致泛化能力不高的问题.在标准数据集上的实验结果表明AR-KGSVM的泛化能力优于传统的SVM和GSVM方法.     

基于混合仿生算法的SVM参数优化

本文提出一种SVM参数优化的新方法.应用遗传算法先对SVM参数进行初步的优化,把得到的优化结果邻近的一段区域再作为粒子群算法的搜索区间进行二次优化,以提高支持向量机的泛化能力,缩短SVM参数寻优的时间.仿真实验表示,该方法在样本数据缺失的情况下,同样具有较好的泛化能力.     

基于支持向量基的条码分类研究

条码的分类检测对条码识别具有非常重要的意义.本文提出将基于支持向量机的多分类方法用于条码的分类检测.对每种条码采用支持向量机二值分类器进行分类,这些二值分类器组成决策树的节点,构成决策树.通过实验表明,SVM在样本有限的情况下具有非常好的泛化能力.     

基于鸟群算法的SVM参数选择

针对支持向量机(SVM)分类器参数选择问题,提出了基于鸟群算法(BSA)的SVM参数选择方法(BSASVM),以优化SVM惩罚参数和核参数.鸟群算法具有优化精度高、鲁棒性好等特点,将SVM参数作为鸟群算法目标函数的优化参数,在搜索到最优值的同时得到最优参数.通过8个UCI标准数据集的MATLAB仿真对比实验,验证了BSA-SVM能有效提高分类准确性.实验结果表明:BSA-SVM能更加准确地找到SVM最优参数,从而加强SVM学习与泛化能力,是一种有效的SVM参数优化方法.     

面向大数据的超启发式SVM的网络安全框架研究

大数据环境下,为了提高支持向量机(support vector machines, SVM)在网络安全应用环境下的性能,提出了面向大数据的超启发式SVM网络安全框架。所提超启发式SVM框架由SVM和超启发式框架组成,超启发式框架的作用是生成配置参数,并将其发送到SVM,SVM使用生成的配置来解决给定的问题,然后将成本函数发送到超启发式框架。超启发式框架分为高层策略和低层启发式,高层策略具有搜索性能,可以控制选择低层启发式并生成新的SVM配置;低层启发式算法构成了一组特定于问题的启发式算法,使用不同的规则实现对SVM配置搜索空间的探索。该框架自适应地集成了基于分解和基于Pareto方法的优点,近似SVM配置的Pareto集,解决了启发式框架的优化问题。实验结果表明,所提框架性能优于其他算法,说明框架的有效性。     

支持向量机技术及应用

基于统计学习理论的支持向量机是一种新型的机器学习方法。本文介绍了统计学习理论和支持向量机的原理,对一系列的训练算法进行了探讨和比较。由于SVM具有良好的泛化能力和全局最优性能,已经被应用于模式识别和回归估计等领域,有着良好的应用前景。     

支持向量机及其在函数逼近中的应用

支持向量机是一种新的机器学习算法，它的理论基础是Vapnik创建的统计学习理论，它采用结构风险最小化准则，在最小化样本点误差的同时，缩小模型预测误差的上界，从而提高了模型的泛化能力，本文通过SVM在函数逼近中的应用，研究了SVM的小样本学习，泛化能力和抗噪声扰动能力。     

基于混沌粒子群的支持向量机参数优化

支持向量机的参数选择决定了其学习性能和泛化能力,由于在参数的选择范围内可选择的数量是无穷的,在多个参数中盲目搜索最优参数是需要极大的时间代价,并且很难逼近最优。基于此,提出一种基于混沌粒子群的支持向量机参数选择算法。混沌粒子群优化算法是一种全局搜索方法,在选取SVM参数时,不必考虑模型的复杂度和变量维数．仿真表明,混沌粒子群优化算法是选取SVM参数的有效方法,可以取得令人满意的效果。     

改进的SVM决策树分类算法

为解决多类分类问题,在分析SVM决策树分类器及存在问题的基础上,通过引入类间可分离性测度,并将其扩展到核空间,提出一种改进的SVM决策树分类器。实验表明了该分类算法对提高分类正确率的有效性。     

一种基于网格的最近邻SVM新算法

支持向量机(SVM)算法往往由于分类面过分复杂或过学习而导致其泛化能力降低,现有的最近邻（NNSVM)或K近邻（KNNSVM）方法解决了这类样本问题,但算法时间复杂度高,处理海量样本的能力有限。在NNSVM算法的基础上引入了网格概念,提出了GNNSVM算法,该算法先对空间进行分块,然后在空间块内计算样本距离,找出最近邻,并结合分块序列最小优化算法(SMO)进行了算法实现。实验表明,该方法降低了计算复杂度,它在保持分类精度的同时,提高了训练和分类的速度,并具有较强的泛化能力,从而提高了原NNSVM算法的海量数据处理能力。     

基于分离程度的二叉树的多类SVM在焊接缺陷分类和识别中的应用

本文提出了基于分离程度的SVM决策树的焊缝缺陷分类识别方法。首先对X射线焊缝图像进行缺陷特征提取,然后结合聚类的思想,定义了分离程度,每次将分离程度最大的缺陷类分离出来,成功解决了传统欧氏距离不能处理的类交叉分类情况,得到了累积误差更小的决策树。将基于分离程度的二叉树的多类SVM算法运用于X射线焊接缺陷图像的分类识别,通过计算机仿真,表明该方法比其它SVM多分类算法在分类精度和识别效果方面有明显的提高。     

基于支持向量机的局域线性嵌入算法在图像检索中的应用

SVM算法复杂度与样本维数无关,具有的泛化能力强、分类精度高的特点,而LLE是有效的非线性降维方法,本文利用支持向量机(SVM)算法对局域线性嵌入(LLE)算法进行改进,有效地解决了基于内容的图像检索中的高维特征向量的降维问题,实验表明具有较高的查全率和查准率.     

基于决策树和改进SVM混合模型的语音情感识别

为有效提高语音情感识别的准确性,达到人机和谐交互的目的,本文提出了一种基于决策树和改进SVM混合模型的语音情感识别方法,有效地避免了无界泛化误差、分类器数目多、受限优化等问题,提高了悲伤、喜悦、愤怒、厌恶、惊讶、恐惧6种基本情感识别效率。实验结果表明,该方法识别准确率为87.58%,与传统的支持向量机和人工神经网络方法相比,有更高的抗噪声能力和稳定性,能得到更高的识别准确率,而且有较强的实用性和推广能力。      

基于GEP的支持向量机参数优化

支持向量机(SVM)具有优良的学习能力和推广能力,然而其性能依赖于参数的选取.本文对影响模型分类能力的相关参数(C、σ2)进行了研究,提出了一种基于基因表达式编程(Gene Expression Programming,GEP)的支持向量机参数选择算法,即根据参数在分类器中的作用,利用GEP优化参数的两种编码方案分别对C与σ2进行编码,期望改进支持向量机的分类精度和泛化能力.最后实验表明了本文算法的有效性.