Induction of hybrid decision tree based on post-discretization strategy

By redefining test selection measure, we propose in this paper a new algorithm, Flexible NBTree, which induces a hybrid of decision tree and Naive Bayes. Flexible NBTree mitigates the negative effect of information loss on test selection by applying postdiscretization strategy: at each internal node in the tree, we first select the test which is the most useful for improving classification accuracy, then apply discretization of continuous tests. The finial decision tree nodes contain univariate splits as regular decision trees, but the leaves contain Naive Bayesian classifiers. To evaluate the performance of Flexible NBTree, we compare it with NBTree and C4.5, both applying pre-discretization of continuous attributes. Experimental results on a variety of natural domains indicate that the classification accuracy of Flexible NBTree is substantially improved.     

产生式与判别式分类方法比较研究

分类是数据挖掘领域研究的热点,产生式与判别式是数据挖掘中两种不同的分类模型。产生式模型具有通用性、灵活性及清晰的分层结构,学习得到的模型很容易满足模型解释要求;判别式模型没有明显的对系统中变量的基本分布建模的企图,仅仅对输入到输出之间映射的最优化感兴趣,可以提供更好的分类性能。从准确率、建模时间及渐进误差等方面对产生式与判别式分类方法进行了分析与比较,为研究人员在分类模型的选择上提供了参考。     

基于贝叶斯理论的未知病毒检测算法的实现

计算机病毒严重地危害了计算机世界的安全,如何有效地利用已知病毒的特征对未知病毒进行检测是一个非常重要的研究课题。对基于贝叶斯分类理论的未知病毒检测算法给予了系统设计和实现。实验结果表明,这种新的算法对未知病毒具有较高的分辨率。     

朴素贝叶斯分类在仪表故障判断上的应用

为了探讨朴素贝叶斯分类在仪表故障判断领域的应用价值,通过将某核电厂压力表故障的历史信息进行分类汇总,将故障的判断转换成文本分类任务,结合朴素贝叶斯分类算法和自然语言处理建立故障的分类模型,实现对新增故障的准确判断。通过验证,朴素贝叶斯分类模型能够对新增故障进行判断分类。测试中需要进行校验类故障准确率能够达到95%以上,其他类故障准确率高于70%。传统故障判断一般是由人来完成,通过贝叶斯分类模型实现对故障的判断,可减轻人员劳动强度,提高工厂维修自动化水平。     

基于频繁2-项集的贝叶斯分类器

针对NB分类方法中过于严格的独立性假设,应用频繁2-项集为分类测度,通过放宽独立性假设达到改善分类性能的目的.在训练阶段使用类似Apriori关联规则发现算法挖掘并建立频繁2-项集库,当测试新文档时,文档特征通过竞争搭配生成基于测试文档的频繁2-项集序列,优先选择类词频率和置信度综合评分最高的频繁2-项集进入概率估算过程,并用频繁2-项集的综合评分置换NB的单项特征概率估计.在不同数据集的实验中显示,基于频繁2-项集的贝叶斯分类器(TIB)的分类精度整体上好于NB分类器,是一种有效的分类方法.     

基于EM-PLS的加权朴素贝叶斯分类算法

朴素贝叶斯算法是一种简单而高效的分类算法,但是它的条件独立性假设和数据完备性要求,影响了其分类性能;在此提出了一种基于EM算法和偏最小二乘的加权朴素贝叶斯分类算法,实验结果验证了该算法的有效性.     

基于支持向量机算法和其他算法在文本分类中的性能比较

分析了几种典型的文本分类算法的特点.其中,支持向量机算法具有最优性能,但处理大量数据时,耗时比较大;K-NN方法与K值的选取有很大关系,而且实时性不够良好;朴素贝叶斯方法在实际应用中可以得到比较好的效果;神经网络方法提供了比较容易的方式预测非线性系统,训练过程很慢,不能适应大数据量的学习.     

中文文本分类方法比较研究

中文文本分类是中文信息处理过程中的关键技术。本文介绍了中文文本分类的基本过程和基本原理,讨论了朴素贝叶斯（NB）、K-最近邻（KNN）、支持向量机（SVM）这三种中文文本分类方法,并对这三种分类方法进行分析和比较。     

中文文本分类方法比较研究

中文文本分类是中文信息处理过程中的关键技术。本文介绍了中文文本分类的基本过程和基本原理,讨论了朴素贝叶斯(NB)、K-最近邻(KNN)、支持向量机(SVM)这三种中文文本分类方法,并对这三种分类方法进行分析和比较。     

基于视觉显著性及多特征分析的目标检测

针对视觉显著性分析不能辨别目标且单个特征描述目标具有局限性的问题,提出基于视觉显著性及多特征分析的目标检测.首先,对已标定训练图,生成遍历整幅图像的随机采样区域,通过多特征分析获取每个区域包含目标可能性的先验参数信息;然后,对测试图,依据上述先验信息,基于贝叶斯模型计算每个随机采样区域包含目标可能性的评分值,并将值高的若干区域标记为目标候选区域;最后,结合显著性分析及判别准则,对候选区域进一步判定,以确定最大可能涵盖目标的区域,从而实现目标检测.研究结果表明:显著性分析具有对目标所在区域的主动选择性;多特征结合能有效描述目标以使目标更具可区分性.