基于模型决策树的AdaBoost算法

AdaBoost算法是一种将多个基学习器通过合理策略结合生成强学习器的集成算法,其性能取决于基学习器的准确率和多样性。但弱学习器分类精度不高往往也导致了最终强分类器性能较差,因此进一步为了提高算法的分类精确率,本文提出一种MDTAda模型,首先利用基尼指数迭代构造一棵不完全决策树,然后在决策树的非纯伪叶结点上添加简单分类器,生成MDT(模型决策树),将MDT作为AdaBoost算法的基分类器,加权平均生成强分类器。在标准数据集上的实验表明,相比传统的AdaBoost算法,本文提出的算法拥有更好的泛化性能和更优的间隔分布,且在与AdaBoost算法达到相同精度时所需迭代次数更少。     

基于提升的BAN组合分类器

提升是一种有效的分类器组合方法,它能够提高不稳定学习算法的分类性能,但对稳定的学习算法效果不明显.BAN(BN augmented Nave-Bayes)是一种增强的贝叶斯网络分类器,通过提升很容易提高其分类性能.文中比较了GBN(general BN)和BAN的打包分类器Wrapping-BAN-GBN与基于提升的BAN组合分类器Boosting-BAN,最后通过实验结果显示了在大多数实验数据上,Boosting-BAN分类器显示出较高的分类正确率.     

一种加入动态权重的AdaBoost算法

【目的】由于AdaBoost算法弱分类器对各待测样本其投票权重是固定不变的,这会导致使用该算法进行分类时准确性不高,于是针对该问题提出了一种结合静态权重与动态权重的学习算法AdaBoost＿DW。【方法】该算法保留了AdaBoost算法训练阶段产生的全部弱分类器,在预测阶段加入了能度量待测样本与各个弱分类器适应性的动态权重,通过双权重共同决定该弱分类器的投票权重。【结果】实验结果表明,AdaBoost＿DW算法的分类精度绝大多数情况下高于原AdaBoost算法。【结论】证明了动态权重的加入能够提高原AdaBoost算法在各数据集上的分类准确率。     

基于AdaBoost的弱分类器选择和整合算法

针对传统AdaBoost算法在人脸检测中训练耗时和误检率高的问题,提出一种改进的AdaBoost算法.新算法在基于PSO的AdaBoost算法基础上对弱分类器的选择和整合两个阶段进行改进.弱分类器选择阶段,在使用PSO迭代选择最佳弱分类器之前,剔除部分无用特征,缩小粒子搜索空间;弱分类器整合阶段,在采用基于核函数的非线性感知器算法优化调节弱分类器参数的过程中使用一种新的与正样本分类能力有关的弱分类器初始参数.采用基于MIT数据库的实验结果表明,本文算法比基于PSO的AdaBoost算法在检测性能上有明显提高.     

一种基于聚类和AdaBoost的自适应集成算法

为同时保证基分类器的准确性和差异性,提出一种基于聚类和AdaBoost的自适应集成算法.首先利用聚类算法将训练样本分成多个类簇;然后分别在每个类簇上进行AdaBoost训练并得到一组分类器;最后按加权投票策略进行分类器的集成.每个分类器的权重是自适应的,且为基于测试样本与每个类簇的相似性及分类器对此测试样本的分类置信度计算得到.实验结果表明,与AdaBoost,Bagging(bootstrap aggregating)和随机森林等代表性集成算法相比,该算法可取得更高的分类精度.     

基于Shapelets的多变量D-S证据加权集成分类

集成学习是分类多变量时间序列的有效方法.然而集成学习对基分类器性能要求较高,基分类器组合算法优劣对分类效果影响较大.为此,提出一种基于Shapelets的多变量D-S(Dempster/Shafer)证据加权集成分类方法.首先,在单变量时间序列上学习得到基分类器Shapelets,基分类器的分类准确率确定为其在多分类器的权重.Shapelets是时间序列的子序列,不同变量Shapelets间不存在依赖关系,且单个Shapelets分类准确度较高,能得到“好而不同”的基分类器.然后,提出一种加权概率指派算法,增加分类准确率高的基分类器权重,减少分类准确率低的基分类器权重;添加了2个组合策略,即消除证据冲突,又提高了效率.在标准数据集上与多个最新算法进行比较,笔者算法取得了较好的分类结果.     

基于特征加权模板快速提升的AdaBoost车牌字符识别算法

针对国内车牌字符的多样性和识别效率不高的现状,文中利用模板匹配和集成学习思想设计了一种新颖的识别算法．该算法由特征加权模板的方法构建弱分类器,经AdaBoost快速提升成强分类器,利用图像的整体灰度信息,缩短大量Haarlike特征的训练时间,克服单一特征弱分类器的不稳定性．仿真实验表明,该算法能够获得较好的字符识别率和稳定性．     

基于VQMAP模型和AdaBoost学习算法的说话人识别

为了解决传统说话人识别系统在集成学习后识别速度变慢且容易过学习的问题,构造了一种基于最大后验矢量量化(VQMAP)模型和自适应提升(AdaBoost)学习算法的说话人识别系统.首先,分析了说话人识别系统中基分类器性能对集成分类器泛化误差的影响.然后,针对说话人的类别数,构造适当精度的VQMAP模型.最后,利用包含提前终止策略的AdaBoost学习算法将该模型提升为强分类器.实验结果表明:该算法的识别速度较高,是最大后验高斯混合模型(GMMMAP)的9倍;该算法可有效控制AdaBoost学习算法在说话人识别中的过学习问题,其性能优于VQMAP模型,且在训练数据较少或者类别数可预计的情况下,其性能可接近甚至超过GMMMAP模型.     

采用负相关学习的SVM集成算法

为了平衡集成学习中多样性与准确性之间的关系,并提高决策分类器的泛化能力,提出一种基于负相关学习和AdaBoost算法的支持向量机(SVM)集成学习方法.将负相关学习理论融合到AdaBoost-SVM的训练过程中,利用负相关学习理论计算基分类器间的相关性,并根据相关性的值自适应调整基分类器的权重,进而得到加权后的决策分类器.在UCI数据集中进行仿真,结果表明:相较于传统的负相关集成学习算法和AdaBoost-SVM算法,所提出的方法分类准确率更高,泛化能力更好.     

一种改进的AdaBoost算法——M-AsyAdaBoost

提出一种Asymmetric AdaBoost改进算法——M-Asy AdaBoost.M-Asy AdaBoost算法通过新的样本权重分配方式可以确保训练过程不失败;分类器权重采用对正样本的分类错误率形成优化权重,突出对正样本的识别能力,提高检测概率;并且通过对加入分类器集的分类器的限制,使检测概率单调增加.该算法在较低虚警概率下,达到高检测概率.计算机仿真结果验证了算法的正确性.     

基于Foley-Sammon变换的朴素贝叶斯分类器

朴素贝叶斯分类器在机器学习领域中一种重要的分类算法,但是该算法的前提是:要求数据集在给出分类属性的情况下,其他属性之间是独立的。根据这个前提,利用Foley-Sammon变换算法进行特征提取,提出了一种基于Foley-Sammon变换的朴素贝叶斯分类器NBFST(Naive Bayesian classifier with Foley-Sammon Transform)。实验表明,NBFST能够在大多数数据集上具有较高的分类准确率。     

基于改进AdaBoost算法的行人检测方法

基于传统AdaBoost算法的识别率和误报率同时低的原因。提出一种改进AdaBoost算法的行人检测方法,采用类Haar特征作为行人特征,引入误报率来更新样本权重,使得识别率降低得更慢,实现一个级联的行人检测分类器。相比于传统AdaBoost算法,改进算法不仅取得较优的识别率,并且可以降低分类器训练的层数。实验证明了改进算法的有效性。     

混合式朴素贝叶斯分类模型

为了降低朴素贝叶斯分类模型的独立性假设约束,提出一种混合式朴素贝叶斯分类模型(MBN:Mixed Naive Bayes)。通过分析贝叶斯定理,把条件属性集合划分成若干个独立的属性子集,用树增广朴素贝叶斯分类对属性子集分别进行分类学习,通过公式进行整合。将该模型算法与朴素贝叶斯及树增广朴素贝叶斯进行实验比较,实验结果表明MBN分类器在多数数据集上具有较高的分类正确率。     

基于RBF核函数的集成分类AdaBoost算法研究

基于径向基函数的神经网络、支持向量机已被广泛应用于模式分类。为了进一步提高分类的精度,将径向基函数应用于集成的AdaBoost算法,即以RBF神经网络和以RBF核函数的支持向量机分别作为AdaBoost的弱分类器,集成更高精度的强分类。通过对标准数据集的分类实验性能对比,证明了其算法解决分类问题有效性。     

基于改进AdaBoost的LF炉成分软测量建模

针对现有软测量模型更新方法的不足,将增量学习思想与AdaBoost集成学习思想相结合,提出了一种具有增量学习性能的改进AdaBoost集成学习算法.并将该改进的AdaBoost与BP神经网络一起形成了集成BP神经网络,建立了基于改进AdaBoost集成BP网络的软测量模型.该软测量建模新方法可以提高单一BP网络的精度,同时还能保证建模具有增量学习的更新性能.使用该软测量建模新方法建立抚钢60t LF炉钢水成分软测量模型,取得了较好的预测效果,可以满足实际生产的需要.     

基于属性相关性分析的扩展朴素贝叶斯分类器

朴素贝叶斯分类作为一种统计分类的方法,简单高效,但它是建立在属性独立性假设的基础上,有一定的局限性,影响了它的分类效果.x2统计是一种度量属性相关性的方法,通过属性相关的分析,可以对属性进行约简,去除冗余和无关属性,达到简化朴素贝叶斯分类器的目的.朴素贝叶斯分类器的扩展方法是在非类父子结点之间添加扩展弧,表示相关属性间的依赖关系,从而扩展朴素贝叶斯分类器的结构.在数据集上的实验结果显示,KEANBC分类器优于NBC分类器,提高了分类正确率.     

基于贝叶斯分类器的图像分类

通过对朴素贝叶斯分类器的讨论, 提出将贝叶斯方法应用于医学图像分割后的图像分类思想. 给出一种基于朴素贝叶斯分类器的图像分类方法, 对从尿沉渣图像中识别出的微粒进行正确分割及特征提取与选择, 并利用朴素贝叶斯分类器进行分类. 实验结果表明， 所提出的方法用于解决图像分类有效.     

基于Online AdaBoost的偏振图像目标跟踪

根据偏振图像的特点,文章提出一种基于在线AdaBoost的目标跟踪方法.该方法以最小二乘回归作为弱分类器,以强度、偏振度和边缘方向特征组成的向量为其输入;通过AdaBoost算法将多个弱分类器集成为强分类器,并在跟踪过程中利用AdaBoost算法对强分类器进行在线更新,以适应目标与背景的变化;利用强分类器生成当前置信图...