一种基于支持向量机的直推式学习算法

直推式支持向量机(Transductive Support Vector Machine,TSVM)是标准的支持向量机算法在半监督学习问题上的一种扩展,但已有的TSVM算法存在训练速度慢、回溯式学习多、学习性能不稳定等缺点,针对这些问题提出一种改进的直推式支持向量机算法———ITSVM,该算法较准确地确定了待训练的未标识样本中的正负样本数问题,有效解决了传统TSVM中过多的回溯式学习问题,同时该算法也无需利用过多的未标识训练样本,从而减轻了计算强度.实验表明,ITSVM相比TSVM在分类正确率、分类速度以及使用的样本规模上,都表现出了一定的优越性.     

基于Seeded-Kmeans和SVM的分类算法

支持向量机（Support vector machines）在人像识别、文本分类等模式识别问题中有广泛的应用,可以有效地解决一些实际生活中的分类问题。针对半监督两分类问题,提出了基于Seeded-Kmeans和SVM的分类算法（SK-SVM）。用Seeded-Kmeans算法对无标签点进行处理,使其获得初始标签,再选取有效的标签点加入已有带标签点中,构成新的带标签训练集,最后结合SVM进行分类。选取UCI中的8个数据集进行数值实验,基于Seeded-Kmeans和SVM的分类算法的有效性得到了验证。     

不均衡数据集下的入侵检测

在直推式支持向量机(transductive support vector machine, TSVM)中,迭代过程中样本标注错误会导致错误传递,影响下一次迭代中样本标注准确度,使得错误不断地被积累,造成最终分类超平面的偏移。在不均衡数据集下,传统支持向量机(support vector machine, SVM)对样本分类的错误率较高,导致TSVM在每次迭代中标注样本准确度不高。针对此,本文提出一种不均衡数据集下的直推式学习算法,该算法依据各类支持向量的密度分布关系动态计算各类的惩罚因子,提高每次迭代中样本标注的准确度,算法在继承渐进赋值和动态调整规则的基础上,减少分类超平面的偏移。最后,在KDD CUP99数据集上的仿真实验结果表明该算法能够提高TSVM在不均衡数据下的分类性能,降低误警率和漏报率。     

基于支持向量回归的增量学习算法

提出了一种基于支持向量回归的增量学习算法,该算法在增量学习中除了考虑原训练集中的支持向量(SVs)外,还考虑了非SVs与ε-带(-iεnsensitive zone)的边界距离较近的样本,并将这些样本与新的训练集一起训练.试验结果表明,与传统的支持向量机增量学习算法相比,此算法提高了训练精度;与经典的SVR相比,此算法大大节约了训练时间,是一种行之有效的增量学习算法.     

一种新的支持向量机增量学习算法

支持向量机学习算法的本质是从训练集中寻找支持向量,因此能否通过训练算法能快速找出支持向量是衡量支持向量机算法优劣的重要标准.本文提出了一种新的快速训练支持向量机的增量学习算法,首先,给出边界向量的定义,然后,对一个给定的新加人的样本,新的学习方法验证其是否为边界向量,如果是,将其加入到训练集中重新训练支持向量机,如果不是,就舍弃,这样能达到减少训练样本、降低训练复杂性目的,最后,给出了一个增量学习算法.实验表明测试误差和支持向量数量与SMO算法大致相当,而训练速度明显加快.     

基于公共矢量的总间隔v最小类内方差支持向量机在噪音人脸图像分类中的应用

为提高噪音人脸图像分类问题中的抗噪性能,在综合最小类内方差支持向量机(minimum class variance support vector machines,MCVSVMs)和总间隔v-支持向量机(total margin v support vector machine,TM-v-SVM)的优点的基础上,提出了基于公共矢量的总间隔v最小类内方差支持向量机(Total margin v minimum class variance support vector machines based on common vectors,TM-v-M(CV)²SVMs)。受公共矢量(common vectors,CVs)的启发,引入了散度矩阵以进一步提高算法的分类性能和抗噪性能,并给出了TM-v-M(CV)²SVMs的推导过程。经实验证明,在噪音人脸图像的分类问题中,TM-v-M(CV)²SVMs获得了比MCVSVMs和TM-v-SVM更好的分类性能和抗噪性能。     

支持向量机的聚类补偿研究

主要研究支持向量机方法与聚类算法的配合问题.支持向量机的训练代价太大,如果直接把成千上万个特征向量直接用作训练,运算时间难以忍受.采取的策略是用聚类算法获得较少的聚类中心,然后将聚类中心作为支持向量机的训练样本.事实上,这样的组合方式有待改进.每一聚类的样本数有多有少,所以每一个聚类中心所体现出来的权重不一样.反映在支持向量机的算法中,改进思路为:在支持向量机的训练中,除了原有点以外,加入人工样本点,人工样本点的位置就是这些原有点之一,各个位置的数量与聚类大小成比例.     

基于人为误差的支持向量机——AE-SVM

传统的支持向量机是将分类问题转化成二次规划问题来解决的。针对传统的支持向量机算法及其变形算法忽略了训练集数据含有较大人为误差参与时其算法精度所存在的保障问题,提出了基于人为误差的支持向量机(artificial error—support vector machine以下称AE-SVM)的基本理论,并建立了AE-SVM的理论模型。该模型是C-SVM模型的改进和推广。     

面向循证医学网络文献的SVM分类方法

支持向量机(support vector machine,SVM)是在统计学习理论基础上发展起来的一种新的机器学习方法,是一种高效的分类识别方法.首先分析支持向量机原理,然后提出一种使用Bagging组合学习方法改进SVM算法的网页分类方法.基于循证医学网络文献分类的实验表明,该方法使训练数据规模大大减小,且比传统的SVM算法分类性能更好,具有较好的精确率和召回率.     

加权支持向量回归在线学习方法

在标准支持向量回归在线学习的基础上,提出了一种加权支持向量回归在线学习方法(WOSVR),即加权支持向量机中针对不同样本点使用不同惩罚系数C,且不同惩罚系数C反映了样本重要性的不同,WOSVR中近期数据重要性大于历史数据重要性.使用基准数据Mackey-Glass混沌序列进行了相关验证实验.结果表明,加权支持向量回归在线学习方法能有效修改模型.