懒惰式学习对决策树分类器的影响

决策树采取的是一种急切式学习算法,是迄今为止在实践中应用最为广泛的一种分类方法。决策树分类器在训练阶段根据训练实例集合建立了一棵整体上最优的树,这棵树被用来在测试阶段给未分类的实例指派最适合的类标。决策树具有良好的可解释性,分类速度快,但是它的剪枝过程非常繁琐,分类精确度也不是非常高.把懒惰式思想引入决策树,学习过程被推迟到给定一个测试实例时才进行。它从概念上为每一个测试实例建立一棵最优决策树。实验数据显示此法显著提高了分类器性能,但分类速度较慢。     

决策树分类算法研究

决策树分类算法是数据挖掘研究中的一个以样本数据集为基础的归纳学习方法，它着眼于从一组无次序、无规则的样本数据集中推理出决策树表示形式的分类规则，提取描述样本数据集的数据模型。讨论了决策树分类算法的基本原理，给出了算法的特性并通过一个实例给出了具体的使用方法。     

基于决策树的数据流挖掘算法的研究

由于数据流的快速流动性以及计算机内存的限制，因此要设计好的数据流挖掘算法是很困难的事。近几年来，对数据流进行数据挖掘的算法相继被提出。本文主要阐述分类算法中基于决策树的各种数据流挖掘算法，包括传统的增量式的决策树分类、基于Hoeffding tree的VFDT、可调整的VFDT（即CVFDT）以及使用整合技术的决策树分类算法，通过分析比较，总结了各种算法的主要特征，为国内研究者提供借鉴。     

多概念学习的决策树MNID算法

决策树归纳法ＩＤ３是人工智能机器学习中发展较快的一种归纳学习算法,而目前的ＩＤ３及其改进算法亦因各种问题限制了其在工程中的应用。基于决策树归纳学习算法示例学习最优化的理论,用在多概念学习条件下对多特征属性值进行分组聚类实现优化的方法,导出了定义在多概念窨上的决策树归纳学习算法ＮＭＩＤ。这种新算法对工程技术领域普遍存在的多概念学习问题,有较好的应用价值。     

基于交互信息的连续值属性决策树学习算法

Fayyad连续值属性决策树学习算法使用信息熵的下降速度作为选取扩展属性标准的启发式,本文针对其易选取重复的条件属性等不足之处,引入属性间的交互信息,提出了一种改进算法--基于交互信息的连续值属性决策树学习算法,它的核心是使用信息熵和交互信息的下降速度作为选取扩展属性标准的启发式.实验结果表明,与Fayyad决策树学习算法相比,该算法降低了决策树中同一扩展属性的重复选取率,实现了信息熵的真正减少,提高了训练精度和测试精度,能构造出更优的决策树.     

基于集成学习和元胞自动机的城市地理模拟

集成学习通过将若干弱分类器集成以取得比单个弱分类器更好的性能，是机器学习的重要研究方向。针对常用城市地理模拟系统中元胞自动机转换规则获取算法的局限性，本文提出基于集成学习算法的元胞自动机，并将其应用于城市建设用地的动态模拟。以决策树作为弱分类器，应用集成学习算法和元胞自动机，对东莞市2001年到2005年的建设用地时空格局进行了模拟，取得了较好的模拟效果。精度评估结果表明，经集成学习后的决策树比单个决策树对城市建设用地动态的模拟精度更高，算法泛化能力更好。     

上下文决策树学习算法及其在机械波图像中的应用

机器学习技术在现代各种数据分析中是备受关注的有效方法之一,目前已在众多领域得到广泛应用。文章以目前较为流行的决策树学习为重点,介绍了决策树学习的几个较为成熟的算法,并将相应算法应用到机械波图像分析中,提出了5点、7点与11点上下文决策树学习算法。通过实验验证该处理方法是有效的。     

管理分类规则的广义决策树

为了将传统的决策树无法管理的、由各种分类算法所发现的大量的有意义的规则进行有效的存储、剪裁和使用 ,提出了广义决策树结构。它将传统决策树的结构进行扩展 ,能够以较少的存储代价管理所发现的所有分类规则 ,且易于表达规则之间的关系。提出了有效的优化策略。以此树为基础 ,将决策树分类算法与基于关联规则的分类算法进行了概括统一 ,并提出了相应的算法。实验结果证明 ,广义决策树克服了传统决策树的缺点 ,并且适宜于维护、剪裁以及快速搜索大量的分类规则     

一种新的简化ID3决策树的算法

决策树简化是决策树学习算法中的一个重要分支。文章以 ID3算法构造的决策树为基础 ,提出了一种高效的简化决策树的算法。算法先序遍历由 ID3构造出来的决策树的各个节点并对其子树进行比较 ,如果各子树的属性都相同而且存在某些相应的分支对于各子树完全相同 ,则改变决策树中相应属性的层次关系并把相同的分支分别合并起来。算法减少了决策树的深度、宽度与叶子数目 ,降低了决策树的规模。尤其对于逻辑表达式的归纳学习 ,简化之后的决策树要明显优于原决策树。     

决策树在教学评价中的应用

决策树是用来解决分类问题的重要方法之一。ID3是决策树学习的核心算法,为此,本文给出了决策树构造思想和ID3决策树学习算法,并将其应用于教学评价之中,这样可以提高教学评价技术水平,提高教学评价的科学性、客观性和公正性,使之更好地为教学服务。     

基于云理论神经网络决策树的生成算法

提出了一种基于五层云神经网络的决策树生成方法.运用五层云神经网络学习变量间的云映射关系,从中生成云决策树.给出了神经网络的学习算法和云决策树的推理方法,这种方法不但具有神经网络的学习能力,而且结合云理论处理知识的不确定性的能力.该方法利用了五层云神经网络学习后的云映射强度,并能实现云决策树的剪枝优化,提高了算法的正确率.     

基于粗糙集的决策树集成学习算法

【目的】为提高决策树集成的泛化能力和效率,解决集成全部决策树的情况下有时并不显著提高精度、反而导致额外存储和计算开销的问题,提出一种基于粗糙集的决策树集成学习算法。【方法】该算法基于粗糙集理论,从训练的全部决策树中选择一部分进行集成。【结果】与目前流行的集成学习算法Bagging和Boosting相比,本文提出的算法有效地减小了集成规模,并获得更好的泛化能力。【结论】该算法提高了决策树集成的泛化能力和效率。     

基于ID3算法决策树的研究与实现

决策树学习是机器学习中应用最广的归纳推理算法之一,是一种逼近离散值函数的方法,且与一般的概念学习算法相比,能够学习析取表达式。在各种决策树学习算法当中,最有影响力的是Quinlan于1979年在Hunt的概念学习系统CLS(Concept Learning System)的基础上发展提出来的以信息增益的下降速度作为选择测试属性的标准的ID3算法。本文对决策树创建的两个步骤进行了探究,并给出对该算法的综合性评价。     

一种可用于分类型属性数据的多变量决策树算法

针对绝大部分多变量决策树只能联合数值型属性,而不能直接为带有分类型属性数据集进行分类的问题,提出一种可联合多种类型属性的多变量决策树算法(CMDT).该算法通过统计各个分类型属性的属性值在各个类别或各个簇中的频率分布,来定义样本集合在分类型属性上的中心,以及样本到中心的距离.然后,使用加权k-means算法划分决策树中的非终端结点.使用这种结点划分方法构建的决策树可用于数值型数据、分类型数据以及混合型数据.实验结果表明,该算法建立的分类模型在各种类型的数据集上均获得比经典决策树算法更好的泛化正确率和更简洁的树结构.     

分类技术在数据挖掘中的应用研究

本文首先介绍了分类技术的基本概念,讨论了分类方法分析的步骤,阐述了用于构造模型的决策树算法,探讨了决策树算法学习中出现的常见问题的解决方法。展示了应用分类技术挖掘数据的方法,为实际应用提供了理论依据。     

基于CART算法的网络新闻关键词抽取模型研究

文章首次把CART决策树方法应用在关键词抽取工作中,并引进相似度进行了决策树方法的改进.在对特征值选择时,根据档案文本书写特征及习惯,选取档案文本的标题、档案关键词词性组合作为特征向量,并基于以往关键词抽取的先验知识加入词位置、相对频数、词语组合个数等作为特征向量.在CART决策树方法基础上,通过引入Jaccard系数合并相似度高的属性元素改进算法,来提高分类的准确率以及减小算法的复杂度.文章选取大量文本作为训练集,通过CART决策树方法进行训练学习而建立模型,建立好的模型能大大减少关键词抽取工作量,并提高关键词抽取的准确率.     

数据挖掘之决策树方法概述

数据挖掘在科研和商业应用中正发挥着越来越重要的作用。分类器是数据挖掘的一种基本方法，决策树是一种最重要的分类器。本文介绍了分类器中的决策树方法及其优点，决策树表示法，决策树构造思想，并比较了各种重要的决策树算法。介绍了决策树算法的实现工具，决策树与数据仓库的结合，决策树的适用范围及应用，最后探讨了决策树的发展趋势。     

ID3算法在教学评估体系中的应用与改进

决策树是一种类似于流程图的属性结构。决策树算法主要用于分类和预测,是以样本为基础的归纳学习方法。决策树技术中的算法有很多,常用的是Quinlan于1979年提出的ID3算法。ID3算法相对于其它数据挖掘分类技术中的算法而言,有着自己的优势,但在实际应用中也有一些不足,需要进行改进。     

决策树算法的教育应用探讨

简单介绍了数据挖掘的概念和决策树算法技术，尤其是它所牵涉的信息论原理，并结合相关事例简要概述了决策树算法在教育层面上的应用．     

基于ID3算法决策树的研究与改进

ID3算法是决策树学习的核心算法,本文主要论述了ID3算法的主要思想,并根据原有算法的不足之处,做了改进。