区间值属性不完全信息下的数据挖掘

不完全信息下的数据挖掘是一个困难的问题，但它在实际决策中是不可避免的。除空值和层次型概念外，区间值属性的处理是典型的不完全信息问题。本文基于粗集理论和扩张矩阵等理论，首先分析区间值属性的优选是NP问题，然后提出了一种分割极小点区间值属性的启发式决策树生成算法，并构造了概率决策树和模糊决策树，以改进传统决策树数据挖掘方法的不足。     

一种大规模数据库的组合优化决策树算法

提出了一种适合于大规模高维数据库的组合优化决策树算法。相比于传统的类似算法,该算法从数据的离散化,降维,属性选择三方面进行改进,对决策树建立过程中不适应大规模高维数据库的主要环节进行了优化,有效解决了处理大规模高维数据库问题的效率和精度之间的矛盾。仿真试验表明,该算法在大大减少了计算代价的同时提高了决策树的分类精度。     

基于变精度粗糙集的分类决策树构造方法

针对分类决策树构造时最优属性选择困难、难以适合大规模数据集的问题,提出新的属性选择标准--属性分类重要性测度,引入王信度和支持度,设计了基于变精度粗集理论的决策树算法.分类重要性测度可全面刻画属性的综合分类能力,且计算比信息增益简单.决策树生长过程中引入支持度和置信度,以控制决策树的生长,提高决策树对噪声数据集和不相容数据集的处理能力,减小决策树的规模.通过对UCI上5个不同规模和类型的数据集进行测试计算,结果表明算法效率高于ID3算法,与UCI报告的最好结果相当.     

一种基于神经网络和决策树相结合的数据分类新方法

提出了一种将神经网络和决策树相结合的数据分类新方法。该方法首先依据属性重要性将属性进行排序,然后通过RBF神经网络进行属性裁减,最后生成决策树,并抽取出规则。与传统的决策树分类方法相比,此方法可依据属性重要性直接生成最小决策树,避免了树的裁减过程,大大加快决策树的生成效率,并进一步提高了规则的预测精度。该方法适用于大规模及高维属性的数据分类问题。     

知识的粒度计算及其应用

粗糙集理论是一种较新的软计算方法 ,可以有效地分析和处理不完备信息 .本文介绍了知识的粒度、属性的重要度及协调度等概念及计算方法 ,并给出属性的重要度在求属性集的最小约简、协调度在构造决策树方面的具体步骤 .最后 ,通过几个例子说明了这些概念和方法的有效性.     

组织协作网与决策树

基于组织基本组成元素(决策者、平台和任务)的定义描述了组织协作网与决策树。通过对组织协作网与决策树的描述分析提出了组织结构设计的新思路:基于决策个体在任务上的协作关系设计最佳的决策树(组织决策的层次结构)。并描述了从组织协作网到决策树的生成过程,对生成过程的求解采用了优化协作树算法。针对案例对决策树的产生进行了求解和分析。     

基于改进随机森林算法的评估指标精简方法研究

为快速、准确获得武器装备系统效能评估结果，提出一种能够精简武器装备系统效能评估指标的方法。以随机森林(random forest, RF)算法度量的评估指标重要性为基础，通过改进RF算法中决策树划分属性选择、叶结点取值确定、决策树输出值计算方法，实现在指标值有缺失的情况下，对评估指标进行重要性的排序，进而精简出指定数量的重要评估指标。以防空系统效能评估指标精简为应用场景，基于指标值有缺失的模拟数据集，验证了提出的改进RF算法比传统RF算法具有更高的准确性。     

一类加权连续属性的多变量决策树构造方法

首先利用粗集理论和模糊聚类理论确定连续多变量属性的选择问题,然后利用聚类中心算法建立等级标准中心以解决连续变量的区间划分问题,其次将等价关系相对泛化的概念用于决策树中多变量检验的构造。最后通过实例说明了本方法是可行的。     

基于属性拓扑图的形式概念构造算法

形式概念分析在软件工程、机器学习领域中有着广泛、重要的应用,形式概念的构造是其应用的先决条件,为了使形式概念的构造直观、简单,提出了基于属性拓扑图的形式概念构造算法.该算法利用属性间的互斥、包含关系,根据"路"的定义进行概念的构造,通过对属性拓扑图中"路"的研究,得到了它的一些性质,利用这些性质对该算法进行了优化,提高了算法的运算效率,并通过实验验证了该算法的可行性.     

基于Adaboost的作战目标属性判定方法

传统作战目标属性判定主要采用指挥员现场判断的定性方法, 具有一定的主观性, 并且由于缺乏较为成熟固定的算法而难以纳入指挥平台中。针对此问题, 结合作战目标属性判定关键影响因素分析, 提出一种基于自适应提升(adaptive boosting, Adaboost)的作战目标属性判定方法。首先, 针对目标有效面积、目标配置区域面积等关键因素, 采用单层决策树算法构建弱分类器。然后, 利用Adaboost对弱分类器进行加权组合, 形成作战目标属性判定的强分类模型。最后, 进行了示例分析, 并与决策树、支持向量机和人工神经网络3种属性判定方法进行对比仿真实验, 证明了所提方法的正确性和优越性。     

基于粗糙决策模型和蚁群算法的故障诊断

粗糙集理论是一种新型的处理模糊和不确定知识的数学工具,它能在保持信息系统分类能力不变的前提下,有效地进行知识约简;决策树算法可对约简后的决策表进行规则提取,有着直观、能定量分析的优点.提出一种变化趋势关联度来评价条件属性的重要性,建立粗糙决策树故障诊断模型,并在诊断推理中引入一种新的人工智能方法——蚁群算法,来确定决策树的最优检测次序.将其应用于工业精对苯二甲酸(purified terephthalic acid,PTA)生产过程中的对二甲苯氧化反应温度的诊断结果表明了提出方法的有效性.     

一种基于遗传算法的多重决策树组合分类方法

针对数据挖掘中的分类问题,依据组合分类方法的思想,提出一种基于遗传算法的多重决策树组合分类方法.在这种组合分类方法中,先将概率度量水平的多重决策树并行组合,然后在组合算法中采用遗传算法优化连接权值矩阵.并且采用两组仿真数据对该方法进行测试和评估.实验结果表明,该组合分类方法比单个决策树具有更高的分类精度,并在保持分类结果良好可解释性的基础上优化了分类规则.     

粗糙集中属性约简的一个贪心算法

利用单属性的逼近精度、由决策属性定义划分的粗糙逼近精度以及它们的均值和方差 ,给出了属性重要性程度的一种度量方式。在此基础上 ,提出了粗糙集中属性约简的一个贪心算法 ,将各属性按照重要性由大到小依次加入到约简属性集中 ,直到满足约简条件为止 ,其特点是简单、容易实现 ,在条件属性较多的情况下 ,往往能够迅速求得一个属性约简。     

基于二元关系和布尔推理的分级决策模型

分级决策问题是将备选方案分类到预先定义的具有偏好顺序的决策类中.其中每个方案是由一个有限属性集合来描述的,该属性集合包括名义属性、连续型属性和有序属性.为了建立分级决策模型.提出了一种基于粗集理论和二元关系、布尔推理相结合的方法.首先在名义属性、连续型属性和有序属性上分别定义了不可分辨关系、相似关系和优势关系.然后提出了分辨-相似-支配矩阵的概念来建立相应的布尔函数.通过计算布尔函数的主蕴含,得到了"IF…THEN…"分级决策规则集作为偏好模型.最后利用一个算例说明了该方法的有用性.     

基于遗传算法的决策树组合方法及在CRM的应用

针对客户关系管理中的客户分类问题,提出一种基于遗传算法的多重决策树组合分类方法.组合分类方法将概率度量水平的多重决策树并行组合,组合算法中采用遗传算法优化连接权值矩阵,并且采用客户信用等级评定的仿真数据对该方法进行测试和评估.实验结果表明,该组合分类方法比单个决策树及其他组合方法具有更高的分类精度,并在保持分类结果良好可解释性的基础上优化了分类规则.     

有约束指导的粗集决策表属性约简算法

粗集理论通过对原始决策表的约简获取规则知识,其核心部分是属性约简.本文在结合两种基本属性约简算法优点的基础上提出了有约束指导的属性约简算法,并给出了算法的详细步骤.该算法通过专家经验的约束指导避免了对属性之间随机组合情况的搜索,可以提高求解速度.仿真试验验证了该方法的有效性和优越性.应用该算法处理一组生产调度数据以获取调度规则,结果显示能较好的与生产实际相吻合,这进一步验证了算法的实用性.     

C5.0分类算法及在银行个人信用评级中的应用

研究了商业银行的个人信用评级问题.由于个人信用记录中既涉及有数值型数据, 也涉及有非数据型数据,而决策树是解决这一类问题的最好方法. 到目前为止,决策树C4.5算法的研究已基本成熟,但其C5.0算法由于商业机密的缘故至今没有公开.因此在决策树C4.5算法基础上详细研究了C5.0算法及相应的Boosting技术,并嵌入Boosting算法技术, 构造了成本矩阵和Cost-sensitive tree,以此建立基于C5.0算法的银行个人信用评级模型,用来对德国某银行的个人信贷数据进行信用评级,同时对模型参数调整前后决策树的判别结果进行比较. 仿真表明:参数调整后的决策树的判别结果优于参数调整前的决策树的判别结果.