基于相异度核空间的支持向量机算法

提出基于相异度核空间的混合流形学习与支持向量机(SVMs)算法用于解决高维数据分类问题. 该算法使用SVMs对流形学习降维后的低维嵌入做分类.通过加常数方法构造了衡量数据点相异度的特征空间. 证明了该特征空间不仅能够衡量数据点之间的相异度,还满足Mercer条件对于支持向量机分类核空间的半正定性的要求. 在仿真实验中,采用UCI机器学习数据库上标准分类数据集为样本. 对比构造的相异度核空间与常用核函数如线性核、多项式核、高斯核在支持向量机分类时的 分类精度来验证有效性和优越性.     

基于超曲面的多类分类方法

使用支持向量机对非线性可分数据进行分类的基本思想是将样本集映射到一个高维线性空间使其线性可分 .基于 Jordan曲线定理 ,提出了一种通用的基于分类超曲面的分类法 ,它是通过直接构造分类超曲面 ,根据样本点关于分类曲面的围绕数的奇偶性进行分类的一种全新分类判断算法 ,不需作升维变换 ,不需要考虑使用何种核函数 ,而直接地解决非线性分类问题 .对数据分类应用的结果说明 ,基于分类超曲面的多类分类法可以有效地解决非线性数据的分类问题 ,并能够提高分类效率和准确度 .     

支持向量机的新分类器算法研究

提出了基于支持向量机(SVM)和决策树(DT)的几种新分类器算法.首先对支持向量机和模糊支持向量机(FSVM)处理多类分类问题的传统算法进行介绍,然后在DT-FSVM和最近邻分类器的基础之上,提出基于样本区域分析(SRA)的混合分类器算法(SRA-DT-FSVM),该算法中样本区域分析的概念被提出.在线性鉴别分析(LDA)的人脸特征空间中,分别对算法FSVM,DT-FSVM,SRA-DT-FSVM以及Binary-DT-SVM进行了全面的性能比较.通过在ORL人脸库上的实验结果表明,提出的新方法是有效的.此外,基于DT的SVM的分类速度获得了较大提高.     

基于小波核支持向量机的均衡器研究

针对通信系统实时性处理要求,提出了一种快速收敛的支持向量机(support vector machine,SVM)均衡器。该方法以支持向量机为框架,利用判决反馈信号构造SVM的训练样本数据,采用小波核函数,并自适应调整核函数中的伸缩因子,得到具有跟踪能力的自适应SVM均衡器。通过仿真实验,并与采用高斯核函数的支持向量机均衡器进行比较,结果证明该方法提高了收敛速度。     

基于半模糊核聚类的模糊超球支持向量机多类分类方法

针对支持向量机(SVM)在大类别模式分类中存在的问题,提出了一种基于半模糊核聚类的超球SVM分类方法.该方法基于半模糊核聚类生成模糊类,利用模糊类提供的边缘样本信息,利用超球SVM进行多类分类,从而有效提高分类器的性能.实验表明,该方法比传统方法具有更高的速度和精度.     

考虑全过程优化的支持向量机预测方法

针对支持向量机（support vector machine, SVM）预测过程中影响因素选择、输入特征集优化、核函数选择及参数优化方面存在的问题,提出了一种全过程优化方法。首先使用频繁模式增长关联规则分析和模糊贝叶斯网络组合模型来解决影响因素选择中存在的主观性问题,然后使用在异常值处理和类内距离与类间距离方面进行改进的模糊C均值聚类算法优化输入特征集,减小支持向量机预测模型冗余度及训练样本集过修正度,通过比较各核函数的特点选择径向基核函数作为SVC的核函数,改进了粒子群优化算法中微粒速度和位置函数及惯性权重值算法,使用该方法优化SVM参数并建立预测模型。最后，通过案例运算和分析,证明该文方法具有更高的预测精度。     

基于支持向量机的非线性模型预测控制

支持向量机是基于统计学习理论的新一代机器学习技术。由于使用结构风险最小化原则代替经验风险最小化原则,使它较好地解决了小样本情况下的学习问题。又由于采用了核函数思想,使它把非线性问题转化为线性问题来解决,降低了算法的复杂度。提出了一种基于支持向量机的模型预测控制结构,并使用一个新的随机搜索优化算法来求解预测控制律,计算机仿真证明了所设计的控制算法的正确性和有效性。     

基于修正核函数SVM的网络入侵检测

支持向量机分类方法在小样本、非线性情况下具有较好的泛化性能,在入侵检测系统中有着广泛的应用。针对入侵检测过程中可能出现的由两类样本不平衡造成的分离超平面偏移现象,以核函数所蕴含的黎曼几何为依据,引入一个伪一致性变换函数,对核函数进行修改,提高支持向量机的分类泛化能力,建立基于支持向量机的网络入侵检测系统,并对系统总体结构和运行机制进行了详细的描述。实验仿真表明,该系统可有效地提高入侵检测的准确率,改善由于数据集不平衡造成的支持向量机分类偏移的情况。     

用于回归估计的支持向量机方法

用于回归估计的支持向量机方法以可控制的精度逼近非线性函数，具有全局最优、良好泛化能力等优越性能，得到广泛的研究。描述了该方法的基本思想，着重讨论了V-SVM、最小二乘SVM、加权SVM、线性SVM等支持向量机的新方法，降低训练时间和减少计算复杂性的分解法、SMO及增量学习算法。在非线性系统参数辨识、预测预报、建模与控制研究中，支持向量机是很有发展前途的研究方法。     

一种新型的支持向量机约简方法及其应用

针对支持向量机(Support Vector Machine,SVM)处理大规模数据集常出现的训练速度慢、计算代价大以及实时性差等缺点,将基于密度的样本块划分法和基于欧式距离的边界样本筛选方法相结合,提出了一种新型的支持向量机约简方法。该方法首先进行空间块的划分,根据空间块的密度提取候选样本区域,并通过基于欧式距离改良的相对距离提取出大概率分布支持向量的边界样本。该方法既保证了训练样本的精度,又降低了计算代价,提高了泛化能力。工业应用结果表明了该方法不仅精度不低于SVM,并且计算速度远快于SVM。     

基于变精度粗糙集的分类决策树构造方法

针对分类决策树构造时最优属性选择困难、难以适合大规模数据集的问题,提出新的属性选择标准--属性分类重要性测度,引入王信度和支持度,设计了基于变精度粗集理论的决策树算法.分类重要性测度可全面刻画属性的综合分类能力,且计算比信息增益简单.决策树生长过程中引入支持度和置信度,以控制决策树的生长,提高决策树对噪声数据集和不相容数据集的处理能力,减小决策树的规模.通过对UCI上5个不同规模和类型的数据集进行测试计算,结果表明算法效率高于ID3算法,与UCI报告的最好结果相当.     

Decision tree support vector machine based on genetic algorithm for multi-class classification

To solve the multi-class fault diagnosis tasks, decision tree support vector machine (DTSVM), which combines SVM and decision tree using the concept of dichotomy, is proposed. Since the classification performance of DTSVM highly depends on its structure, to cluster the multi-classes with maximum distance between the clustering centers of the two sub-classes, genetic algorithm is introduced into the formation of decision tree, so that the most separable classes would be separated at each node of decisions tree. Numerical simulations conducted on three datasets compared with "one-against-all" and "one-against-one" demonstrate the proposed method has better performance and higher generalization ability than the two conventional methods.     

基于不完全BT-SVMs分类的模拟电路故障诊断方法

针对几种常用的支持向量机多类分类方法,分析了各自存在的问题和缺点,并在此基础上提出了一种基于核的自组织映射聚类的不完全二叉树SVMs多类分类方法,该方法首先用SOM神经网络对所有训练样本进行聚类,分裂成两个子类,然后分别对两个子类进行类似的操作,直到每个类别都被单独分开为止。根据聚类的结果构造二叉树结构,从而产生相对应的SVMs网络。实验结果表明,采用该方法进行多类分类具有很高的分类精度和分类速度。     

一种基于遗传算法的多重决策树组合分类方法

针对数据挖掘中的分类问题,依据组合分类方法的思想,提出一种基于遗传算法的多重决策树组合分类方法.在这种组合分类方法中,先将概率度量水平的多重决策树并行组合,然后在组合算法中采用遗传算法优化连接权值矩阵.并且采用两组仿真数据对该方法进行测试和评估.实验结果表明,该组合分类方法比单个决策树具有更高的分类精度,并在保持分类结果良好可解释性的基础上优化了分类规则.     

基于多分类GA-SVM的高速公路AID模型

智能检测系统已为高速公路交通事件检测提供了有效的途径.为了更加细致地了解高速公路交通运行状态,为突发事件的应急处理提供更加高效、可靠的决策支持, 将支持向量机两分类问题延伸到多分类上来.根据交通事件的发生过程,将其分为自由流状态,交通拥堵加剧状态,交通拥堵消散状态.采集VISSIM对交通事件各阶段进行仿真的原始数据集,运用主成分分析方法对交通输入特性进行降维处理,构建支持向量机多分类事件检测模型,最后用遗传算法选择支持向量机模型参数,获得了满意的检测效果.     

基于遗传算法的决策树组合方法及在CRM的应用

针对客户关系管理中的客户分类问题,提出一种基于遗传算法的多重决策树组合分类方法.组合分类方法将概率度量水平的多重决策树并行组合,组合算法中采用遗传算法优化连接权值矩阵,并且采用客户信用等级评定的仿真数据对该方法进行测试和评估.实验结果表明,该组合分类方法比单个决策树及其他组合方法具有更高的分类精度,并在保持分类结果良好可解释性的基础上优化了分类规则.     

一种基于QBC的SVM主动学习算法

针对支持向量机(souport vector machine,SVM)训练学习过程中样本分布不均衡、难以获得大量带有类标注样本的问题,提出一种基于委员会投票选择(query by committee,QBC)的SVM主动学习算法QBC-ASVM,将改进的QBC主动学习方法与加权SVM方法有机地结合应用于SVM训练学习中,通过改进的QBC主动学习,主动选择那些对当前SVM分类器最有价值的样本进行标注,在SVM主动学习中应用改进的加权SVM,减少了样本分布不均衡对SVM主动学习性能的影响,实验结果表明在保证不影响分类精度的情况下,所提出的算法需要标记的样本数量大大少于随机采样法需要标记的样本数量,降低了学习的样本标记代价,提高了SVM泛化性能而且训练速度同样有所提高。     

基于支持向量机的智能决策方法

分析多属性决策问题及现有方法,提出了基于支持向量机的智能多属性决策方法.首先,介绍了支持向量回归估计的学习算法.其次,探讨了基于支持向量机的智能决策原理.然后,提出了多属性决策支持向量机方法的实现算法.最后给出了一个算例.     

Parallelism of spatial data mining based on autocorrelation decision tree

1.INTRODUCTION Oneofmostimportantoperationsisspatialparallel processinginspatialdatabase.Itisnecessaryforusto retrievalallspatialpredictionsformtwoormorespa tialdatasets.Ingeneral,thequeryconsistsoftwo procedures:filtrationandsimplification.Sincethe complexityofspatialobjects,filtrationprocesscan generateaholdingitemsetofsatisfyingcertaincondi tionsintermsofparallelprocessingrules.Inorderto measuretheaccuracyofquerycondition,weneedre trievalpreciseshapeinformationofeachobjectfrom anotherm…     

Solving large-scale multiclass learning problems via an efficient support vector classifier

1. INTRODUCTION In recent years, a new type of classifier, support vector machines[1~2], is receiving adoption increasingly as a state-of-the-art tool to solve knowledge discovery pro- blems. SVMs are based on the statistical learning the- ory of Vapnik[1] and quadratic programming optimiz- ation. Support vector machines (SVMs) are initially designed for binary classification problem. How to effectively extend them for multiclass classification is still an ongoing research topic. Curr…