支持向量机的最大间隔的一个估计

在分析支持向量机及其最大间隔法的基础上，给出了支持向量机的最大间隔的一个重要下界估计值．这个性质对于支持向量机的理论研究和应用都有重要意义。     

基于可靠性测度的多类支持向量机

多类分类问题是我们经常遇到的问题,常用的方法是将多类问题转化为若干个二类问题,然后利用二类支持向量机(support vector machine,SVM)进行分类,如一对余SVM,一对一SVM,决策树SVM等.在这些方法中,大都没有考虑所生成的多个分类器之间的可靠性和重要性问题.为了改进这一点,本文以一对余SVM为例,提出了两种基于可靠性测度的多类分类算法,算法的思想可用于一对一SVM,决策树SVM等其他多种分类器中.为了检验所提算法的有效性,本文进行了比较试验,实验结果表明所提算法不仅提高了分类准确度,而且具有更为广泛的推广能力.     

支持向量机的最大间隔和对偶性

最初出现的支持向量机理论是基于2类线性可分问题的.针对线性可分情况,研究表明线性硬间隔分类机的对偶问题与凸壳问题(平分最近点法)是等价的,线性硬间隔分类机的最大间隔与凸壳问题的2个最近点的距离相等:针对非线性可分情况,研究表明线性软间隔分类机的对偶问题与缩小的凸壳问题(推广的平分最近点法)是等价的,线性软间隔分类机的最大间隔与缩小的凸壳问题的2个最近点的距离相等.对支持向量机分类问题给出了直观解释.     

统计学习理论和支持向量机

介绍了统计学习理论和支持向量机的概貌，以及目前支持向量机方法研究的现状．     

Fisher正则化的最小二乘孪生支持向量机

最小二乘孪生支持向量机是一种有效的模式分类算法,然而每一个训练样本都对最终的决策平面有影响。如果训练集含有噪声或异常点,其会过度关注这些点,这可能导致最小二乘孪生支持向量机的判别能力较差。为了解决这个问题,受Fisher准则思想的启发,本文引入了双Fisher正则化项,并在此基础上提出了Fisher正则化的最小二乘孪生支持向量机。同时,在人工数据集和UCI数据集上验证了所提算法的有效性。     

支持向量机训练及分类算法研究

支持向量机(SVM)是在统计学习理论基础上发展起来的一种新的数据挖掘方法,已广泛应用于模式识别与回归分析等领域。针对一些主要的SVM训练算法,比较它们的特点,阐述其中最有代表性的序列最小优化(SMO)算法及其多种改进算法,还讨论一些典型的支持向量机多分类算法及支持向量机多标注算法。最后,指出亟待解决的一些问题。     

用于回归估计的支持向量机

介绍机器学习的表示方式,分析和比较机器学习中经验风险最小化原则和结构风险最小化原则,引出用于回归估计的支持向量机,并用数学方式阐述其基本思想,讨论支持向量机技术发展中存在的主要问题.     

基于pinball损失的一对一加权孪生支持向量机

孪生支持向量机通过求解2个较小二次规划问题得到一对非平行超平面,从时间和准确率方面提高了分类器的性能.由于此方法使用Hinge损失函数,造成孪生支持向量机对噪声较为敏感以及重采样的不稳定.为此,针对多分类问题,将pinball损失函数与样本权重引入到孪生支持向量机中,采用一对一方法组合二分类器,提出了基于pinball损失的一对一加权孪生支持向量机,较好地解决了孪生支持向量机对噪声的敏感性以及重采样的不稳定性.另外,对于样本的不同影响,给出了多种求取样本权重的方法.实验中选取标准数据集和人工合成数据集对提出的算法进行了验证,并与一对一孪生支持向量机(OVO-TWSVM)、一对多孪生支持向量机(OVA-TWSVM)以及基于pinball损失的一对一加权孪生支持向量机(Pin-OVO-TWSVM)进行了比较,表明了提出方法的有效性.     

迁移拉普拉斯总间隔支持向量机

为了提高半监督分类器在已标记和未标记样本的数量均不足时的分类性能,该文在迁移学习的基础上,提出了一种迁移拉普拉斯总间隔支持向量机。首先提出了联合最大均值差异度量准则,从全局和局部两方面衡量不同领域间的分布差异,并将迁移学习的思想引入半监督学习框架,提出了迁移拉普拉斯总间隔支持向量机。实现源域的知识到目标域的迁移,提高了目标域分类器的性能。8个迁移数据集上的实验结果证明,该方法能处理目标域标记和未标记数据均不足场景下的分类任务。     

基于迭代方法的模糊孪生支持向量机

模糊孪生支持向量机通过为每个训练样本赋予不同的模糊隶属度来构建2个最优非平行分类面,以便减少噪声或孤立点对非平行分类面的影响,进一步提高了支持向量机的性能.本文结合超松弛迭代法对模糊孪生支持向量机进行了研究,通过迭代技术求解凸二次规划问题中的拉格朗日乘子,减少了支持向量机的训练时间,在UCI标准数据集上分别对C-FTSVM和v-FTSVM进行了实验研究,并对使用传统求拉格朗日乘子的方法与超松弛迭代(SOR)的方法进行了对比,表明了使用超松弛迭代法不仅在时间性能上得到了提高,而且其分类正确率也优于传统的方法.     

支持向量机多类分类方法研究

系统地回顾了现有的支持向量机多类分类方法,通过对其原理和实现方法的分析,从训练速度、分类速度和推广能力3个方面对这些方法的优缺点进行了归纳和总结,并得出相关结论.     

围岩稳定性评判的支持向量机多分类模型

围岩稳定性评判对指导地下工程的设计和施工具有非常重要的意义.引入支持向量机多分类方法,进行围岩稳定性分类.选用影响围岩稳定性的因素,岩石质量指标、岩石单轴饱和抗压强度、完整性系数、结构面强度系数和地下水渗水量等5项指标作为模型的判别因子,建立了围岩稳定性分类的支持向量机模型.以围岩实测数据作为学习样本进行训练,建立相应判别函数对待判样本进行分类.结果表明,支持向量机模型分类性能良好,预测精度高,是围岩稳定性分类的一种有效方法,可以在实际工程中进行应用.     

一种基于多分类支持向量机的网络入侵检测方法

构造了一种基于异构数据距离的径向基核函数，可直接应用于异构的网络数据，并利用实验数据得到修正的基于异构数据距离的径向基核函数(I-HVDM-RBF)，从而减少了支持向量的个数，降低了运算量，采用I-HVDM-RBF核函数和一对一方法构造了多分类支持向量机来进行网络入侵检测，检测选用美国国防部高级研究计划局入侵检测评测数据，结果表明：与Ambwani方法比较，其检测精度提高了约3％，支持向量个数减少了268个，检测时间缩短了5min；与Lee方法比较，其拒绝服务攻击、远程到本地攻击和普通用户到超级用户攻击的检测精度分别高出73％、19％和3％。     

用于分类的支持向量机

支持向量机是20世纪90年代中期发展起来的机器学习技术,建立在结构风险最小化原理之上的支持向量机以其独有的优点吸引着广大研究者,该文着重于用于分类的支持向量机,对其基本原理与主要的训练算法进行介绍,并对其用途作了一定的探索．     

基于模糊多类支持向量机的语音质量客观评价

提出了采用模糊有向图支持向量机（FDGSVM）对基于输出的多语言语音样本进行语音质量评价的一种新方法．将多个可进行两类分类的模糊支持向量机组织成具有惟一根节点的有向图结构，得到多类分类器FDGSVM；提取待测语音信号的Mel倒谱系数并将其作为特征向量，再通过FDGSVM将特征向量映射到非线性划分的主观平均意见评分（MOS）区间，映射值即为输出的语音质量的客观评价结果．实验结果表明，所提算法获得的评测结果与主观MOS评价之间的相关度，在闭集测试时可达0．91，在开集测试时可达0．88．     

基于多类支持向量机的X射线焊缝图像缺陷类型识别方法

压力容器的焊缝结构多变,纹路复杂,增加了压力容器检测焊缝缺陷时定级的难度.提出一种基于多类支持向量机的X射线焊缝图像缺陷类型识别方法.首先通过对X射线焊缝图像进行预处理及缺陷轮廓检测,提取表征焊缝缺陷的状态特征,以构造特征向量;然后基于多类支持向量机建立焊缝缺陷识别模型,对产品的焊缝缺陷进行分类识别.实验结果表明了该方法的有效性.     

基于多类支持向量机的X射线焊缝图像缺陷类型识别方法

压力容器的焊缝结构多变,纹路复杂,这增加了压力容器检测时焊缝缺陷定级的难度,提出一种基于多类支持向量机的X射线焊缝图像缺陷类型识别方法。首先通过对X射线焊缝图像进行预处理及缺陷轮廓检测,提取表征焊缝缺陷的状态特征,以构造特征向量,然后基于多类支持向量机建立焊缝缺陷识别模型,对产品的焊缝缺陷进行分类识别。实验结果表明了该方法的有效性。     

面向元信息分类的支持向量机改进技术

针对传统元信息分类方法的准确率不能满足主动P2P网络监测模型要求的问题,提出了一种基于改进支持向量机算法的元信息分类方法.该方法首先通过在加权最小二乘支持向量机的基础上加入对数据偏斜的处理,解决了元信息分类时关键词特征稀疏和样本高度不均衡问题,在对元信息文件名进行分词时,加入了词条之间的组合关系处理,在进行特征向量表示时,加入了对词条权值和语义属性的处理,最后使用基于粗糙集的属性规约方法进行特征向量选择,有效地降低了特征向量维度.实验结果表明,与传统方法相比,所提方法在进行元信息分类时能够大幅度提高分类准确率,准确率可达到97.8%,完全能够满足主动P2P网络监测模型的要求.     

多类支持向量机算法的研究

支持向量机(SVM)是建立在统计学习理论的基础上的一种小样本机器学习方法,它是针对二分类问题而提出的,如何将二分类问题有效地推广至多分类问题是支持向量机研究的重要内容之一.介绍了现有提出的一些支持向量机多分类的方法,并比较其优缺点,在模糊支持向量机的基础上提出具有去噪声的模糊支持向量机的多分类的方法.     

基于支持向量机的汉语问句分类

目前汉语问句分类一般都依据疑问词及其相关词的组合规则,但由于规则的提取很深地依赖于语言知识,而且很难穷举出所有的特征规则,因此会影响分类的效果.支持向量机（SVM）是建立在统计理论基础上的机器学习方法,对于小样本分类问题有很好的识别效果.文中分析和定义了汉语问句的类型,建立了以SVM为基础的问句分类模型,详细描述了问句分类特征的选取过程,并在句法特征的基础上引入语义特征进行汉语问句分类实验,分类准确率达88.7%,表明结合句法和语义特征以SVM进行汉语问句分类具有很好的效果.