支持向量域多分类器

为解决多分类支持向量机计算量大、训练时间长的问题,构造了支持向量域多分类器(MSVDC).在训练阶段,运用支持向量域描述求得各类样本的最小包围超球,进而将数据空间划分为不同区域;在测试阶段,计算待识别样本与最小包围超球球心的距离,并判断其空间位置;对超球重叠以及超球外区域的样本,定义一种相对类距离,判断样本归属该值较小的类.MSVDC避免了重复利用训练样本,降低了内存占用并提高了计算效率.数值实验结果表明:MSVDC具有好的鲁棒性,分类精度可高达98.89％,分别比一对多和一对一算法高4.51％和1.24％,训练时间分别为一对多和一对一算法的18.06％和55.41％.     

融合粗糙集与球形支持向量机的多分类识别

构造了融合粗糙集与球形支持向量机的多分类识别模型,提出了基于相对距离的球形支持向量机多分类识别算法。首先,通过粗糙集对样本集进行属性约简;然后,对约简后的样本集运用球形支持向量机进行训练,对于未知样本,按照未知样本到各类球心相对距离的大小进行分类,将未知样本归入相对距离较小的一类中去;最后,仿真结果证明:该方法可以有效地消除冗余属性,降低支持向量机的样本输入维数,提高了泛化能力。     

基于二叉树支持向量机多类分类算法的研究

基于二叉树的支持向量机多类分类算法虽然在目前现有的多类分类算法中总体性能较优,但是仍然存在分类精度和分类效率不高的问题。针对这些问题,提出了一种新的基于欧氏距离的二叉树支持向量机(Distance binary tree SVM,简称DBT-SVM)多类分类算法,该算法综合地考虑了两类最近样本的欧式距离、类中心的欧氏距离对分类的影响,并且使最容易分离的类能优先分离出来。通过在UCI标准数据集上进行实验验证,结果表明该算法行之有效。     

基于二叉树支持向量机多类分类算法的研究

基于二叉树的支持向量机多类分类算法虽然在目前现有的多类分类算法中总体性能较优,但是仍然存在分类精度和分类效率不高的问题。针对这些问题,提出了一种新的基于欧氏距离的二叉树支持向量机(Distance binary tree SVM,简称DBT SVM)多类分类算法,该算法综合地考虑了两类最近样本的欧式距离、类中心的欧氏距离对分类的影响,并且使最容易分离的类能优先分离出来。通过在UCI标准数据集上进行实验验证,结果表明该算法行之有效。
     

基于DLSVM算法的高分辨率遥感图像分类研究

为了进一步提高高分辨率遥感图像的分类精度及效率,融合支持向量机SVM及局部支持向量机KNNSVM算法,借助主动学习相关理论,提出了基于距离的局部支持向量机算法(DLSVM).该算法通过对未标记样本和超平面之间的距离与预先设定的距离阈值相比较,判断是否需要进一步建立局部支持向量机KNNSVM来确定样本的类标.对实际的高分辨率遥感图像分类的实验结果显示:在合适的距离阈值与K值的设置下,该算法能够提高支持向量机SVM的分类精度,同时大大降低KNNSVM算法的时间消耗.     

改进的二叉树支持向量机在人脸识别中的应用

针对人脸识别问题,提出一种基于奇异值分解特征提取和改进的二叉树支持向量机实现多分类的人脸识别方法。在使用改进的二叉树支持向量机对不同人脸图像的奇异特征向量进行分类时,先利用Mercer核,将输入空间非线性可分的训练样本映射到高维特征空间Hilbert中,使之线性可分,将类超球体半径分解成核心半径和最小半径,通过两者加权计算最终的类超球体决策半径,并以此半径大小为依据生成二叉树结构。在ORL人脸数据库的仿真结果表明,该算法能有效提高人脸识别性能,具有较高识别率。     

改进二叉树支持向量机及其TE过程故障诊断

针对层次结构对二叉树支持向量机分类性能影响较大的问题,提出了一种改进的完全二叉树支持向量机构建方法。基于帕累托原则以核心圈样本最近类间距离和类内计算半径圈样本平均密度建立了类间差异性估计策略,将类间距离大且类内样本分布紧密的类别最先分离出来,并提出了构建完全二叉树的算法步骤。通过在UCI标准数据集上与其他SVM多类分类算法作比较,验证了改进算法的优越性。以TE过程故障诊断为研究对象,基于核主成分分析提取故障特征,应用改进的二叉树支持向量机实现了故障的准确识别。     

一种基于小生境的模糊支持向量机新算法

提出了一种基于小生境的模糊支持向量机新算法,该算法主要是通过对样本小生境与类小生境之间对比,并利用类小生境中样本最小半径来度量样本与类之间的关系,改变传统支持向量机简单使用样本欧氏距离来度量样本与类之间的关系的方法,克服了传统支持向量机算法对噪声和异常点过于敏感以及有效样本区分度差等缺点.实验数据表明,与只使用基于样本与类中心之间距离的传统模糊支持向量机算法相比,该算法提高了算法的收敛速度,且大大增强了包含噪声样本与有效样本的区分度.     

利用证据理论的多分类支持向量数据描述算法

针对原始多分类支持向量数据描述(SVDD)算法及其拓展算法忽略超球体之间的差异，且未能充分利用超球体的输出信息等问题，提出一种利用证据理论的多分类支持向量数据描述(证据SVDD多分类)算法。首先，为每一类样本训练一个超球体，并计算每个超球体的正确率与紧密程度；接着使用上一步得到的正确率与紧密程度计算每个超球体的可靠程度；然后，根据超球体的输出信息与可靠程度计算样本的信度函数，信度函数的生成方式采用三焦元法和基于评价矩阵的方法；最后，根据Dempster组合规则融合上一步得到的信度函数，使用Pignistic法将融合后的信度函数转换为概率做出最终的判决。在两个人工数据集和多个UCI数据集上进行实验，结果表明，证据SVDD多分类算法相较传统算法可以获得更好的分类性能；在多个数据集上的仿真结果表明，证据SVDD多分类算法比传统的SVDD多分类算法有3%的精度提升。     

基于核的多超球面一类支持向量机分类算法

为了降低单超球面一类支持向量机(One Class-SVMs,简称OC-SVMs)分类算法的错分率,提出了一种基于核的多超球面一类支持向量机分类算法.算法利用核空间中样本特征差异突出的特性,首先对样本在核空间进行K-均值聚类,然后使用OC-SVMs对各子类训练建立多超球面分类模型,实现分类判决.实验结果表明,算法有效地提高了分类精度.     

基于SVM的空间数据库的层次聚类分析

支持向量机用于两类问题的识别研究.本算法引入了SVM,构造二叉树对多类问题进行层次聚类分析.该算法采用SVM对两类问题进行识别,通过合并逐步由底向上构造二叉树,最终二叉树的数目即为聚类数.它适合任意形状的聚类问题,而且可以确定最优聚类的结果,并适于高维数据的分析.     

一种新的二叉树SVM多分类算法

在二叉树结构支持向量机(SVM)多分类算法的基础上,针对二叉树算法中点和叶盲目划分的问题,提出了一种新的二叉树SVM多分类算法.该算法通过标记划分的方法,一方面解决了盲目划分的问题,另一方面大大减少了子分类器的数目,大幅度提高了算法的速度.实验结果表明,该算法具有一定的优越性.     

基于权重搜索树改进K近邻的高维分类算法

信息采集技术日益发展导致的高维、大规模数据,给数据挖掘带来了巨大挑战,针对K近邻分类算法在高维数据分类中存在效率低、时间成本高的问题,提出基于权重搜索树改进K近邻(K-nearest neighbor algorithm based on weight search tree,KNN-WST)的高维分类算法,该算法根据特征属性权重的大小,选取部分属性作为结点构建搜索树,通过搜索树将数据集划分为不同的矩阵区域,未知样本需查找搜索树获得最"相似"矩阵区域,仅与矩阵区域中的数据距离度量,从而降低数据规模,以减少时间复杂度.并研究和讨论最适合高维数据距离度量的闵式距离.6个标准高维数据仿真实验表明,KNN-WST算法对比K近邻分类算法、决策树和支持向量机(support vector machine,SVM)算法,分类时间显著减少,同时分类准确率也优于其他算法,具有更好的性能,有望为解决高维数据相关问题提供一定参考.     

用于不平衡数据分类的模糊支持向量机算法

作为一种有效的机器学习技术,支持向量机已经被成功地应用于各个领域.然而当数据不平衡时,支持向量机会产生次优的分类模型;另一方面,支持向量机算法对数据集中的噪声点和野点非常敏感.为了克服以上不足,提出了一种新的用于不平衡数据分类的模糊支持向量机算法.该算法在设计样本的模糊隶属度函数时,不仅考虑训练样本到其类中心距离,而且考虑样本周围的紧密度.实验结果表明,所提模糊支持向量机算法可以有效地处理不平衡和噪声问题.     

基于最优二叉树的多故障分类器的设计

在分析常见多故障分类器的基础上,提出了基于故障优先级和核函数的聚合技术,利用这个方法生成一个基于最优二叉树的多故障分类器.该分类器是通过核函数具有将非线性问题线性化的特点生成聚类函数,然后通过各个故障的优先级生成最优二叉树.最后将此分类器应用在挖掘机故障诊断中.应用结果表明,此分类器不但能够保证故障诊断的正确率,而且可以让后果较严重的故障得到优先诊断.     

基于可靠性测度的多类支持向量机

多类分类问题是我们经常遇到的问题,常用的方法是将多类问题转化为若干个二类问题,然后利用二类支持向量机(support vector machine,SVM)进行分类,如一对余SVM,一对一SVM,决策树SVM等.在这些方法中,大都没有考虑所生成的多个分类器之间的可靠性和重要性问题.为了改进这一点,本文以一对余SVM为例,提出了两种基于可靠性测度的多类分类算法,算法的思想可用于一对一SVM,决策树SVM等其他多种分类器中.为了检验所提算法的有效性,本文进行了比较试验,实验结果表明所提算法不仅提高了分类准确度,而且具有更为广泛的推广能力.     

一种改进的SVM多类分类算法在入侵检测中的应用

入侵检测作为网络安全的关键技术,成为了当前网络安全研究的热点,入侵检测算法的准确率和推广性能是研究的重点。基于二叉树的思想和超球支持向量机的特点,本文提出了一种改进的SVM多类分类入侵检测算法。本文通过引入相似度函数作为权值,选取相似性最小的两类样本构造两类分类器,采用自下而上的方法构造多个两类超球SVM分类器,并将该多类分类算法应用于入侵检测中。利用KDD CUP 1999入侵检测数据进行了仿真实验,实验结果表明,该算法能有效提高检测准确率、推广性能也得到较好改善。     

基于动态调整的GA-SVM多分类二叉树的方法

基于遗传算法的支持向量机决策树多分类方法仍然存在错误累积的问题,累积的错误往往使分类准确率下降,分类效果变差,存在全局优化缺陷的问题;并且在每个节点进行二分类常用的实数编码切分方法,效率低下。针对这两方面的问题,提出从根节点开始逐层构造二叉树,运用二进制编码的遗传算法进行每一阶段的二叉树构造。二进制编码对于每个节点的分类以及进行交叉、变异更高效,不用考虑从什么位置切分。针对越靠近根节点产生的误差对后续节点分类误差的累积影响,提出一种动态调整的方法,此方法对每个节点赋予权重再进行对权重的调整使得整体的分类误差减小,最终得到二叉树的全局最优,从而提高分类精度。通过实验并进行五折交叉验证表明,DABT-SVM比多种传统的支持向量机多分类算法在全局优化能力和分类精度上有很大的提升。验证了该算法的可行性和有效性。     

基于分离程度的二叉树的多类SVM在焊接缺陷分类和识别中的应用

本文提出了基于分离程度的SVM决策树的焊缝缺陷分类识别方法。首先对X射线焊缝图像进行缺陷特征提取,然后结合聚类的思想,定义了分离程度,每次将分离程度最大的缺陷类分离出来,成功解决了传统欧氏距离不能处理的类交叉分类情况,得到了累积误差更小的决策树。将基于分离程度的二叉树的多类SVM算法运用于X射线焊接缺陷图像的分类识别,通过计算机仿真,表明该方法比其它SVM多分类算法在分类精度和识别效果方面有明显的提高。     

基于SVM的决策树多类分类器及在遥感图像中的应用

利用三种不同的聚类方法——利用类均值的最小距离聚类、利用类均值的最大距离聚类和利用最大间隔准则聚类,提出了三个基于SVM的决策树多类分类器.为了检验所提算法的有效性和先进性,对AVIRIS遥感图像进行了实验.实验结果表明,本文所提的三种算法明显好于最小距离分类法、线性判别分类法、决策树分类法、OAR-SVM和OAO-SVM.