一种基于属性开销约束的矩阵约简算法

在数据挖掘和机器学习的过程中,分类器的主要任务是提高数据分类的精确度和降低数据分类的费用开销,本文针对传统分类器只考虑了如何提高数据分类的精确度而没有考虑到如何降低数据分类的开销缺陷,提出了一种基于属性开销约束的矩阵属性约简算法,定义了一种新的函数作为属性约简的启发信息,探讨了基于矩阵方法计算等价关系矩阵的增量更新机制.该算法缩短了粗糙集属性约简的计算时间,保证了属性约简的实时性,并通过实例进一步验证了所提出方法的有效性和正确性.     

一种基于粗糙集理论的连续属性离散化方法

基于粗糙集的有关理论,提出了一种新的连续属性离散化方法·首先说明决策属性支持度的概念,再利用决策属性支持度作为反馈信息,提出一种领域独立的基于决策属性支持度的连续属性离散化算法·该算法能在保证决策表原始分类能力不变的前提下,提高约简效率·同时,各个属性拥有较少的分割区间,会使规则集合更加简洁·通过实例分析比较,说明该算法是非常有效的·     

基于粗糙集属性约简与进化算法的贝叶斯网络分类器

提出一种新的学习无约束贝叶斯网络分类器的算法（RE-BNC）.该算法基于粗糙集理论,在保证分类精度不变的前提下,先对冗余属性变量进行约简,降低属性变量维数,然后构建一个无约束优化模型用来学习较好的初始种群,降低搜索空间,再结合进化算法学习分类器的网络结构.与其他常见的8种分类器算法相比较,实验结果表明该算法设计合理,且分类效果较好.     

一种粗糙模糊神经网络分类器及其应用

提出了一种粗糙模糊神经网络分类器的模型。其过程为:利用粗糙集理论获取分类知识,根据训练样本建立决策表,进行决策表属性值离散化、属性约简和分类规则的提取;依据约简后决策表的属性、经模糊化处理的属性值及分类规则构造粗糙模糊神经网络分类器。该分类器可以有效地克服粗糙集规则匹配方法抗噪声能力和规则泛化能力差的缺点;同时可简化神经网络的结构,加快网络的训练速度。并详细介绍了该分类器用于汽车车牌字符识别的步骤和实验结果。     

一种基于粗糙集和遗传神经网络的数据分类器模型

为了实现对无线传感器网络监测得到的高维冗余且不确定的数据进行分类识别,提出一种由遗传算法和粗糙集进行优化的BP神经网络数据分类器模型,并形成了数据挖掘分类算法。该模型通过粗糙集理论的属性约简算法删除训练样本的冗余属性,利用遗传算法对神经网络的权值和阈值进行优化,并进行神经网络学习。数据挖掘分类算法学习速度快,能够有效提高无线传感器网络中数据的分类效率。     

一种基于分类目标的启发式离散化算法

提出一种基于分类目标的启发式离散化算法, 通过该算法能够解决粗糙集理论中的连续属性离散化问题. 该算法充分考虑目标分类和属性的重要性, 在减少决策规则的同时完成了属性约简. 通过茶味觉信号的验证及与传统算法结果的比较, 验证了所给算法的有效性.     

数据挖掘分类问题的贪婪粗糙集约简算法

基于贪婪算法和粗糙集方法,给出了一种处理数据挖掘分类问题的属性约简算法:贪婪粗糙集约简算法GRSR;在测试中得出的约简集为原始集的1/3,表明了它是一个有效的算法·其想法是:从初始约简集为空集开始,选择使分类质量最大的属性,将它加入约简集;再从余下的属性中选择使分类质量最大的属性并加入约简集,重复直至找到满意的约简集·     

一种新的基于入侵检测的属性约简算法

数据挖掘和机器学习应用于入侵检测是当今的研究热点,但其中大部分算法的学习或分类时间长,制约了入侵检测的应用。将粗糙集用于网络侦听的海量数据的属性约简可以提高入侵检测速度,提高效率。提出的一个新的属性约简算法约简冗余属性,使用朴素贝叶斯分类器进行分类预测。实验表明,该方法分类准确率高、时间消耗少,能够提高入侵检测的效率。     

基于粗糙集理论的病理诊断规则提取算法研究

针对病理诊断规则获取问题,采用基于粗糙集理论的规则提取方法.首先进行连续属性的离散化,用遗传算法对CAIM(class-attribute interdependence maximum)离散化算法进行改进.然后利用粗糙集理论进行规则提取.采用以核为基础的增量式约简算法,综合考虑属性对约简的增益和属性在剩余属性集中的重要性,给出了衡量属性重要性程度的一个准则.随后进行属性值约简,获取诊断规则.     

基于图的粗糙集属性约简方法

属性约简是粗糙集理论研究的一个基本问题,它是一种有效的数据约简方法。然而,目前很多的属性约简算法在面对高维数据集时仍然不够高效。文中利用图论的相关理论和方法,对基于区分矩阵的粗糙集属性约简方法给出了直观和等价的刻画。在此基础上提出了基于图论的粗糙集属性约简方法。实验结果表明,新的属性约简算法在面对较大规模的数据集,尤其是高维的数据集时,不仅能有效地降低数据的维数,同时运行速度快且能保持较高的分类精度。     

基于机器学习的高血压病历文本分类

为了探讨中文病历文本预处理后高维稀疏性的特点,导致文本分类精度低、算法模型收敛速度慢等性能问题,提出一种基于粗糙集的词袋(BOW)模型结合支持向量机(SVM)的文本分类算法(BOW+SVM)。该算法首先采用BOW模型对特征词提取构建高维度文本空间向量,然后利用粗糙集的属性约简算法对文本特征处理,把模糊的、冗余的属性从决策规则中清除,降低空间向量维数,最后利用所提纯的特征与SVM分类器交叉结合进行文本分类。在Python+TensorFlow环境中设计六种交叉结合的算法仿真对比实验,结果表明:基于BOW+SVM高血压病历文本分类模型精准度可达97%。可见改进后的模型,能够解决样本分部不均,克服高维度稀疏特征空间的问题,有效改善病案管理工作流程。     

基于粗糙集理论的KNN分类

粗糙集理论为研究不精确数据的分析、推理,挖掘数据间的关系、发现潜在的知识提供了有效的工具。在数据挖掘技术中KNN算法是一个实现简单和分类准确性较高的方法,但是,当用于样本容量较大以及特征属性较多的类似医疗图像挖掘这样的领域时,其效率受到了很大的影响,找到一个删除最大冗余属性的方法成了解决这个问题的关键。将粗糙集理论与KNN算法结合起来,用粗糙集方法进行属性约简,有效地解决了KNN算法分类的这个缺点。     

基于代表的交叉验证分类

基于代表的邻域覆盖粗糙集分类算法,在某些数据集上表现良好,数据的类别不平衡问题严重影响算法的分类精度.为尽量消除类别不平衡问题的影响,在k折交叉验证方法的基础上,针对基于代表的邻域覆盖粗糙集分类算法,提出了3种集成策略.策略1依靠k折交叉验证,获得对应的k个基分类器,所有的基分类器组成委员会对未分类样本分类;在策略1的基础上,策略2选择分类精度相对较高的基分类器组成委员会,对未分类的样本进行分类;策略3在前2种策略的基础上,利用主动学习的思想,对训练集进行扩充,得到新的分类器再对未分类样本分类.实验所用数据集为UCI标准数据集,且对k的取值做了对比实验.结果显示,3种策略均有不同程度的提升,且k取5时总能取得较好的提升效果.对于不同数据集,应选择相适应的改进策略.     

基于粗糙集和自适应神经网络集成理论的边坡稳定性分析

利用SOM网络--粗糙集-BP网络集成进行边坡稳定性预测的方案:首先应用SOM网络将边坡稳定性因素中的连续属性值离散化;然后基于粗糙集理论计算边坡稳定决策系统的约简,根据实际需要确定最优决策系统;最后在最优决策系统的基础上设计BP网络进行预测.边坡稳定性预测的实际结果验证了所提出的神经网络与粗糙集理论相结合的可行性,在数据充足的条件下,该方案可以推广到其它具有连续性值的情况.     

网络入侵异常检测中数据预处理的研究

在网络入侵异常检测中,数据预处理是一个非常重要的步骤,数据预处理的好坏直接影响后续检测的准确性．本文针对基于层次聚类的网络入侵异常检测中两个问题,在数据预处理阶段做出改进,一是属性冗余和属性权重问题,运用粗集理论对各个属性赋予权重并进行属性约减,二是粗集理论中连续数据离散化问题,提出了针对数据特点的自适应离散化算法,该算法是根据样本属性值分布来决定离散间隔,最后针对两个改进方法进行了实验,并与采用现有离散化方法进行了对比,实验结果证明了该算法的有效性和准确性．     

基于邻域粗糙集的主动学习方法

主动学习是机器学习领域的重要研究方向.现有主动学习方法通常选择不确定性的或具有代表性的样本供专家打标,然后添加到已标记的数据集中供分类器学习,但没能充分利用数据的分布信息,并且在野点采集问题上有待改进.结合邻域粗糙集理论,提出了一种基于邻域粗糙集的主动学习方法(neighhbor rough set active learn-ing,NRS-AL).实验结果表明,在加州大学数据集(university of CaliforniaIrvine,UCI)上,该算法充分利用了数据的分布信息,同时结合样本的不确定性和代表性计算,处理了野点的选择,是一种能有效解决主动学习样本选择问题的算法,在accuracy,受试者工作特征(receiver operating characteristic curve,ROC)曲线下面的面积(area under curve,AUC)指标上优于文献中的主动学习算法.     

一种基于主成分分析的稀疏数据模式分类隐私保护算法

 模式分类过程涉及到对原始训练样本的学习,容易导致用户隐私的泄露。为了避免模式分类过程中的隐私泄露,同时又不影响模式分类算法的性能,提出一种基于主成分分析（PCA）的模式分类隐私保护算法。该算法利用PCA 提取原始训练数据的主成分,并将原始训练样本集合转化为主成分的新样本集合,然后利用新样本集合进行分类学习。选用Adult 数据集和KDDCUP 99 数据集进行仿真实验,并采用正确率和召回率进行性能评价,结果表明,该隐私保护算法通过PCA 提取原始数据特征属性的主成分,可避免原始属性的泄露,同时PCA 在一定程度上可实现去噪,从而使分类器的分类性能优于原始数据集的分类性能。与已有算法比较,该隐私保护算法具有更好的模式分类精度和隐私保护性能。     

基于机器学习的数据库小数据集并行集成方法

为了解决传统方法不能按照训练样本量设计最优网络模型,集成效率低的弊端,通过机器学习方法研究数据库小数据集并行集成方法。机器学习选用朴素贝叶斯算法,依据条件独立性假设,通过计算目标先验概率,采用贝叶斯定理求出其后验概率,对后验概率进行比较,完成决策分类,对基分类器进行训练,把不同朴素贝叶斯基分类器当成集成分类器,在原始数据库上对基分类器进行训练,依据分类结果对数据库中小数据集样本分布进行调整,将其当成新数据集对基分类器进行训练,按照基分类器的表现,通过加权将其组合在一起,产生强分类器,实现对数据库小数据集的集成处理。通过MapReduce并行处理完成并行数据集成,输出并行集成结果。通过仿真实验与实例分析验证所提方法的有效性,结果表明:所提方法在训练样本规模相同的情况下有最高的分类精度和最小的波动,在不同集成规模下的分类精度一直最高,波动最小;所提方法可达到数据的最优集成,数据失效比降低,合成比提高。可见所提方法集成精度高,计算稳定性强,集成效果好,效率优。