基于RBF核函数的集成分类AdaBoost算法研究

基于径向基函数的神经网络、支持向量机已被广泛应用于模式分类。为了进一步提高分类的精度,将径向基函数应用于集成的AdaBoost算法,即以RBF神经网络和以RBF核函数的支持向量机分别作为AdaBoost的弱分类器,集成更高精度的强分类。通过对标准数据集的分类实验性能对比,证明了其算法解决分类问题有效性。     

SVM的快速分类及其算法

针对支持向量机中当样本集训练规模很大且存在野点时,其分类速度慢且精度不高的问题,提出一个支持向量机快速算法。其基本步骤是首先求取每类样本点的壳向量和中心向量,然后将求出的壳向量和中心向量合在一起,组成新的训练集进行训练,得到最终的分类器。实验表明采用这种学习策略,不仅大幅度降低了学习代价,而且获得的分类精度与直接通过大规模样本集训练得到的分类器的分类精度相当,同时分类速度也得到大幅度提高。     

基于证据理论和支持向量机的风机故障智能诊断

为了提高风机故障的诊断精度, 提出一种证据理论和支持向量机相融合的风机故障识别方法. 首先从振动信号中提取Wigner-Ville谱熵作为风机故障诊断特征; 然后采用不同核函数支持向量机进行训练, 建立风机故障诊断的子分类器; 最后采用DS证据理论对子分类器的输出结果进行融合, 并对其性能进行仿真测试. 实验结果表明, 该方法可以充分利用全部故障信息, 诊断结果更接近期望值, 诊断效果优于其他风机故障诊断方法.     

应用粒计算的混合智能故障诊断技术研究

针对现有的混合智能故障诊断模型缺乏通用方法和混合框架,未能实现不同智能诊断方法的实质性融合和优势互补的问题,提出并构建了一种基于粒计算的混合智能故障诊断模型.该模型的核心是在邻域粗糙集中求取不同的邻域值,对故障特征集进行分层粒化,在不同粒度下获得核属性集.利用核属性集在相应粒度下构建人工神经网络和支持向量机子分类器,通过评估矩阵算法对所有粒度下全部子分类器的诊断结果进行融合集成.模型应用结果表明,分类精度随着粒度层的增加而不断提高,集成后的分类精度高于不同粒度下的所有子分类器,从而体现了粒化分层的优势和不同智能诊断方法的优势互补,为混合智能诊断提供了一种新途径.     

改进的M-ary支持向量机模型及其在变压器故障诊断中的应用

使用M-ary支持向量机进行基于油中溶解气体分析的变压器故障诊断研究.分析结果表明,M-ary支持向量机算法简单,与一对一支持向量机的诊断精度可以比拟.在此基础上,还对常用的M-ary支持向量机模型进行了改进,将各二类分类器的输出计算值直接使用另一支持向量机进行组合,可以更好地反映各分类器之间的非线性关系,从而使新模型具有更高的分类精度.变压器的应用实例证明了改进方法的有效性和优越性.     

基于集成学习的网页分类算法

网页分类需要使用标记网页对分类算法进行训练,然而,对网页进行标记的过程既费时又费力.随着web的快速发展,获得未标记网页已经变得相对容易.为了有效地利用未标记网页来提高网页分类的性能,提出了一种基于集成学习的网页分类算法,迭代运行支持向量机、中心分类器和朴素贝叶斯分类器,并对各分类器的预测进行集成,不断地从未标记集中对网页进行标记后用于训练.实验结果表明.提出的算法有效地提高了网页分类的性能.     

基于MKLSVM的MVB端接故障诊断

列车通信网络的故障诊断一直是列车健康管理中的难点,复杂的工作环境、分布式的系统结构也使得故障难以被发现和定位.在分析多功能车辆总线(Multifunction Vehicle Bus,MVB)网络端接故障和反射形成机理的基础上,提出了一种以MVB网络物理波形参数为样本特征,结合多核学习支持向量机(Multiple Kernel Learning Support Vector Machine,MKLSVM)的网络故障诊断方法,以完成由端接电阻造成的网络故障诊断.搭建平台,进行了数据采集、模型训练、结果测试.分别利用普通支持向量机及MKLSVM对样本集进行了测试,并从不同性能度量角度评估了分类器性能.结果显示:以物理波形参数为样本特征能够表征端接网络故障的故障模式,结合支持向量机(Support Vector Machine,SVM)的模式识别方法能够有效对端接网络故障进行诊断.在查准率、查全率、分类精度、代价函数方面,MKLSVM均优于普通SVM分类器.     

基于边界支持向量的自适应增量支持向量机

该文提出一种基于边界支持向量的自适应增量支持向量机,对每轮训练的样本集提取其边界支持向量,从而减少训练向量数目,提高训练效率.通过自适应调整参数,可以更好地适应新增样本.采用UCI(University of California Irvine)机器学习数据库和Statlog数据库对本文方法进行验证,实验结果表明本文方法的训练时间优于标准支持向量机和一般增量支持向量机.其分类精度也明显优于一般增量支持向量机,在训练数据较少时,其分类精度与标准支持向量机相差不大,但随着训练数据的增加,分类精度逐渐超越标准支持向量机.该文的方法更适合大规模数据集的增量学习.     

一种改进的数据挖掘模糊支持向量机分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度及分类速度慢的缺点,提出一种改进的数据挖掘模糊支持向量机分类算法.该算法首先预选有效的候选支持向量缩减训练样本集的规模提高训练速度;其次提出一种新的模糊隶属度函数,增强支持向量对构建模糊支持向量机最优分类超平面的作用,并用经过预选的训练样本集进行训练FSVM得到支持向量集;最后,运用粒子群优化算法选择最优支持向量子集,使用平均分类误差作为适应度函数,最终粒子输出时,将样本隶属度与设定阈值相比较,选择出支持向量集中相对较大隶属度的样本作为新的支持向量,提高分类速度.实验结果表明,该算法在不损失分类精度的情况下,提高了模糊支持向量机的训练速度和分类速度.     

基于RSBRA离散化方法的支持向量机集成

提出一种新的基于离散化方法的支持向量机集成算法,该算法采用粗糙集和布尔推理离散化方法构造有差异的基分类器,进一步提高了集成学习机的分类性能.实验结果表明,所提算法具有明显优于单一支持向量机的分类性能,并能取得比传统的集成学习算法Bagging和Adaboost更高的分类正确率.     

基于支持向量机的发动机故障诊断

针对发动机的故障特点,提出了一种基于主分量分析和支持向量机的发动机故障诊断方法.利用小波包对声级计采集到的解放CA141型汽车发动机声音信号进行特征提取,应用主分量分析方法在不损失有效信息的情况下,将原始特征向量中的冗余信息约简,在此基础上通过支持向量机对发动机故障进行分类.诊断结果表明,该方法在保证较高诊断精度的同时,可将支持向量机的训练时间缩短1/3,从而提高了故障诊断效率.     

一种基于加权支持向量机的垃圾邮件过滤方法

基于内容的垃圾邮件过滤本质上是文本分类问题,支持向量机分类器非常适合于垃圾邮件过滤这一二分类问题,但标准的支持向量机是基于分类精度进行优化的,对两类邮件的重要性未以区别,造成了邮件分类时虽然整体精度较高,但对正常邮件的误判率也较高.据此笔者提出了一种基于加权支持向量机的垃圾邮件过滤算法,通过增加两类邮件的类别权重及反映每封邮件重要性的权重,对支持向量机分类器进行训练,在保证分类精度的同时,尽可能地降低对正常邮件的误判率.实验表明该算法取得了很好的过滤效果.     

模拟退火算法与支持向量机在机械故障诊断中的应用

为提高支持向量机在机械故障诊断测试中的分类正确率,将模拟退火算法与支持向量机相结合,用模拟退火算法优化支持向量机核函数及其参数,再将故障特征输入支持向量机进行故障识别.诊断实例表明,该方法与传统支持向量机方法相比能得到较高的诊断精度.     

采用负相关学习的SVM集成算法

为了平衡集成学习中多样性与准确性之间的关系,并提高决策分类器的泛化能力,提出一种基于负相关学习和AdaBoost算法的支持向量机(SVM)集成学习方法.将负相关学习理论融合到AdaBoost-SVM的训练过程中,利用负相关学习理论计算基分类器间的相关性,并根据相关性的值自适应调整基分类器的权重,进而得到加权后的决策分类器.在UCI数据集中进行仿真,结果表明:相较于传统的负相关集成学习算法和AdaBoost-SVM算法,所提出的方法分类准确率更高,泛化能力更好.     

融合样本选择与特征选择的AdaBoost支持向量机集成算法

为提高AdaBoost分类器集成算法的分类精确度并简化分类系统的复杂度,提出一种融合样本选择与特征选择的AdaBoost支持向量机集成算法(IFSelect-SVME)。该算法在AdaBoost算法的每个循环中利用加权免疫克隆样本选择算法进行样本选择,并用互信息顺序向前特征选择算法进行特征选择,再利用每个循环优化选择得到的特征样本子集训练个体SVM分类器,并对其进行加权集成,生成最终的决策系统。对实验所用9组UCI数据集的仿真结果表明:与支持向量机集成(SVME)算法相比,IFSelect-SVME算法的正确分类率有所提高,且样本数可减少30.8%~80.0%,特征数可减少32.2%~81.5%,简化了集成结构,缩短了测试样本的分类时间,所得到的分类系统具有更好的分类精度。     

基于分形维数和SVM的新疆民间艺术图案分类

针对已有分类器存在的缺陷, 提出一种以分类错误率为标准选择组合特征的分类方法, 提高分类器的分类精度. 先提取图像的4种分形维数作为纹理特征, 再通过组合不同分形维数特征应用于支持向量机(SVM)进入样本训练阶段. 将分类错误率最低的特征组合作为分类器的特征向量, 应用于测试阶段的分类, 提高分类器的分类精度. 实验结果表明, 该方法具有较好的推广性, 为图像特征组合提取提供了新途径.     

一种改进的不平衡数据流集成分类算法

本文提出了一种针对类分布不平衡数据流的分类算法。首先,针对数据流的类分布不平衡,采用改进的重采样方法,建立平衡的训练子集;然后,采用支持向量机在平衡的训练子集上建立基分类器;最后,采用WE集成模型组合基分类器,构建不平衡数据流的集成分类器。该算法通过设定相邻数据块的F-value的差值大于等于某一阈值作为更新分类器的标准,同时在更新分类器时引入错分正类实例重新训练基分类器。实验结果表明该算法不仅对正类有较好的分类性能,对整体也有较好的分类性能。     

基于Tri-training直推式支持向量机算法

针对直推式支持向量机错误累积及获取无标记样本空间信息慢的问题,结合Tri-training算法、KKT条件及富信息策略提出一种基于Tri-training的直推式支持向量机算法,用KKT条件选择标注样本,用富信息策略选择加入的分类器,利用多个分类器的投票结果进行标注,提高样本标注的准确度,利用多个分类器进行协同训练提高算法的训练速度.最后实验结果表明,算法能够提高最终分类器的分类精度和算法的训练速度.     

一种网络入侵检测特征提取方法

为了去除冗余特征,降低系统存储和运算负担,提高网络入侵检测分类器的性能,文中提出了一种基于Fisher分和支持向量机的网络入侵检测特征提取方法.针对KDD′99网络入侵检测数据集,应用该方法得到了混合攻击和4种单一攻击模式下的特征重要度排序,选取重要特征建立支持向量机入侵检测分类器.结果表明,该分类器精度与使用全部特征构建的支持向量机分类器相当,训练和测试时间则显著降低.     

用于木马流量检测的集成分类模型

针对传统集成学习方法运用到木马流量检测中存在对训练样本要求较高、分类精度难以提升、泛化能力差等问题,提出了一种木马流量检测集成分类模型。对木马通信和正常通信反映在流量统计特征上的差别进行区分,提取行为统计特征构建训练集。通过引入均值化的方法对旋转森林算法中的主成分变换进行改进,并采用改进后的旋转森林算法对原始训练样本进行旋转处理,选取朴素贝叶斯、C4.5决策树和支持向量机3种差异性较大的分类算法构建基分类器,采用基于实例动态选择的加权投票策略实现集成并产生木马流量检测规则。实验结果表明:该模型充分利用了不同训练集之间的差异性以及异构分类器之间的互补性,在误报率不超过4.21%时检测率达到了96.30%,提高了木马流量检测的准确度和泛化能力。