基于信息熵的不完备信息系统属性约简算法

在现实生活中信息的不完备现象广泛存在,等价关系不一定成立,限制了经典Rough集理论在一些实际问题中的应用.从信息论角度出发引入信息熵的概念,提出了不完备信息系统中知识熵的度量方法,定义了信息观下不完备信息系统知识约简的方法,分析并讨论了与现有其他约简定义的关系,给出了一种基于信息熵的不完备信息系统属性约简算法,通过仿真实验说明了该算法对于不完备信息表知识约简是可行的.     

一种基于互信息的粗糙集知识约简算法

针对粗糙集理论核心内容之一的知识约简问题,该文提出了一种改进的互信息的属性约简算法。该算法结合信息论中信息熵与互信息的概念定义了粗糙集里的一种新的属性重要度,并以此属性重要度为启发式信息进行属性约简。实验分析表明:在大多数情况下,该种算法都能够得到决策表的最小约简。     

一种 Hu差别矩阵属性约简的高效算法

针对决策表,首先从理论上证明了相对知识量与新条件信息熵的等价性,从而保证可以从相对知识量的角度计算Hu差别矩阵属性约简．为快速计算出决策表属性的相对知识量,给出一种相对知识量的递归计算公式,从而得到新条件信息熵的递归计算公式．以此为基础给出一种属性重要性定义并设计出一种计算Hu差别矩阵属性约简的启发式算法．算例和实验结果验证该算法是高效的．     

一种新的基于决策熵的决策表约简方法

分析了在知识约简过程中经典粗糙集理论决策表知识约简方法的不足.以知识粗糙熵为基础,将一致和不一致对象分开,提出决策熵的概念及其属性重要性,在此基础上给出约简的判定定理;然后以条件属性子集的决策熵来度量其对决策分类的重要性,提出一种新的知识约简启发式方法.理论分析和实验结果表明,基于决策熵的属性重要性是一种更有效的启发式信息,该方法时间复杂度较低,有助于搜索最小或次优约简.     

一种新的基于决策熵的决策表约简方法

分析了在知识约简过程中经典粗糙集理论决策表知识约简方法的不足。以知识粗糙熵为基础,将一致和不一致对象分开,提出决策熵的概念及其属性重要性,在此基础上给出约简的判定定理;然后以条件属性子集的决策熵来度量其对决策分类的重要性,提出一种新的知识约简启发式方法。理论分析和实验结果表明,基于决策熵的属性重要性是一种更有效的启发式信息,该方法时间复杂度较低,有助于搜索最小或次优约简。     

垂直划分多决策表下基于条件信息熵的隐私保护属性约简

针对垂直划分多决策表,利用半可信第三方和交换加密体制,设计了一个安全多方计算交集基数协议。利用该协议设计了安全多方计算信息熵和安全多方计算条件信息熵的解决方案,提出了一种基于条件信息熵的隐私保护属性约简算法。该算法基于粗糙集信息观的约简理论实现了分布式环境下全局属性约简的求解,使各参与方在不共享其隐私信息的前提下达到集中式属性约简的效果,分析结果表明该算法是有效可行的。     

基于信息熵属性约简的矩阵方法

给出基于信息熵的属性约简的矩阵表示,由此设计一个新的基于信息熵的属性约简算法,并用实例验证算法的可行性.该算法比较直观,容易理解,而且所占用的辅助空间少.     

基于自信息熵的直觉模糊决策系统的属性约简

针对在直觉模糊集中,利用下近似构建的约简只考虑了下近似而忽略了上近似,从而导致一些信息丢失的问题,基于直觉模糊集的上、下近似提出了3种熵度量,并将其应用于直觉模糊决策信息系统的约简之中。在直觉模糊决策信息系统上定义用于描述直觉模糊关系的3种不确定性度量,分别为平均决策指数、平均安全决策指数以及平均风险决策指数,并在此基础上依次提出了条件信息熵、条件粗糙熵和自信息熵,基于自信息熵给出了相应的约简定义以及属性约简算法。在多个数据集上的实验表明,所提出的属性约简算法与其他算法相比,约简结果更具有优越性以及鲁棒性。     

基于信息熵的知识约简算法及实现

回顾了粗糙集理论的基本概念,并以信息论观点研究了一种基于信息熵的知识约简算法,该算法对决策表中属性的重要性给出了度量方法。算法实现部分详细说明了系统各模块的设计实现过程并给出了一个运行实例。     

知识粗糙性的粒度原理及其属性约简

经典的粗糙集理论提出知识是有粒度的并定义了知识粗糙度的概念，但它不能完全区分不同信息粒度所表示的信息量。本文从信息论的角度定义了信息粒度，粒度函数和粒度熵等概念，重点研究了知识粗糙性的粒度原理。提出了一种基于条件粒度熵的属性约简的启发式算法，通过例子分析，表明该算法是有效的。     

基于粗糙集的航路飞行冲突智能解脱CBR系统案例检索方法

针对航路飞行冲突智能解脱中的案例推理问题,提出了基于粗糙集的改进案例检索方法.建立了框架式案例知识系统表达结构,包括19个条件属性变量和1个决策变量.将基于信息熵的全局优化算法和启发式快速约简算法用于属性约简,把17项案例属性检索指标根据天气和军方活动的情况分别简约为4项.依据条件属性对决策属性的影响程度,建立了基于粗糙集属性重要度的指标权重确定方法.通过算例进行计算,将简约前后的案例检索效果进行比较,结果表明一致性达到90％.简约后的属性不仅可以保证较好的检索质量,还能够有效减少检索空间,提高检索速度.     

基于极大相容块的粗糙性度量及其属性约简

由于相似关系或相容关系不具有传递性或对称性,从而相容类或相似类之间存在误判,因此研究不完备信息系统中合适粒度下的粗糙性度量和属性约简算法很有必要。在不改变相关模型的基础上,文章通过极大相容块的思想,研究了非等价关系的基本知识粒度构造,进一步讨论了合适粒度下的粗糙性度量方法,提出了基于极大相容块的知识粗糙性更精确的定义和极大相容块的条件信息熵及其属性重要性定义,并证明了相关性质;给出了合适粒度下属性约简的启发式算法,结果表明,极大相容块的重要性度量避免了通常意义下粒度过粗问题,知识粗糙性更为准确。     

基于差别矩阵的增量式属性约简完备算法

为了解决基于差别矩阵的属性约简完备算法得不到最小约简的问题，提出了一种改进的属性约简方法．该方法将信息论定义的属性重要性作为启发式信息，并通过构造一个条件信息熵算子对差别集合进行运算，同时利用算子来计算候选属性的剔除次序，采用宽度优先搜索策略使约简集合中含有最重要的属性，这样就解决了完备算法约简率低的问题．结合该方法并在分析对象集增量与差别矩阵关系的基础上，证明了增量约简定理，由此提出了一种增量式约简完备算法（CAIR），当新数据加入决策表时，算法可增量构造差别集合．实验结果表明，所提CAIR在大大缩短计算差别集合时间的同时，约简率比非完备算法提高了20．3％，是同条件下完备算法执行效率的13．2倍．     

一种改进的决策树分类算法研究

传统的ID3决策树算法存在诸多不足,如计算效率低、多值偏向等,对此,提出了属性值空缺、多值属性的选择以及属性选择标准方面的改进方案,并将加权熵和简化熵引入决策树算法以改进传统ID3算法.实验结果表明,改进后的算法在整体性能方面较目前广泛应用的ID3算法有更优秀的性能表现.     

一种新的启发式属性约简算法

为解决属性约简的诸多问题,比如基于信息熵的属性约简方法偏向多值属性的缺点,而基于属性相似度的属性约简方法偏向少值属性的不足,现提出一种将信息熵和属性相似度结合起来的新的启发式属性约简方法.实验结果表明,避免了上述两种属性约简算法的偏向性.     

基于条件信息量的快速粗集约简算法

为提高粗集约简的效率,提出了一种基于条件信息量的快速粗集约简算法.该算法定义了基于等价块的信息量与条件信息量,并给出了条件信息量的不变性定理与属性重要度的单调性定理.与其他算法相比较,该算法缩小了实例集合的规模,减少了需要计算重要度的属性个数.实验结果表明,保持约简集合不变的前提下,该算法有效提高了粗集约简的效率.     

装载机故障诊断属性约简算法

为了提高以先验知识进行智能诊断的效率,对粗糙集理论的约简算法进行了研究,提出了基于可分辨矩阵一种改进的属性约简算法,将其应用于装载机故障诊断决策表的属性约简.实践证明该算法对属性约简是有效的.     

变精度粗糙集下基于信息熵的属性约简算法

本文针对在Z．Pawlak粗糙集下进行属性约简中存在的问题,在对变精度粗糙集理论下卢下近似约简概念分析的基础上,引入了信息熵,建立了变精度粗糙集意义下的决策表中属性重要性的度量方式,区分了β阈值界定下的“弱不一致信息”与“强不一致信息”的不确定程度,从而刻画了标准粗糙集下正域之外的不一致信息的不确定程度,以该度量作为启发式信息,提出了基于信息熵的β下近似约简的启发式算法．这为不一致信息系统的属性约简提供了理论依据与算法．     

一种变粒度的规则提取算法

属性约简和值约简是粗糙集理论中知识获取的重要组成部分。通常,在知识获取的过程中先进行属性约简,然后在其基础上进行规则提取。但在实际应用中,属性约简在简化信息系统与提高规则提取效率的同时,原始信息系统中有些重要的条件属性可能被丢弃,从而导致属性约简后对信息系统进行知识获取得到的规则其数量与简化程度并不占优。针对上述问题,提出一种基于粒度变化的规则获取算法,通过属性粒度从粗到细的变化,直接从原始信息系统中提取规则;采用该方法得到的规则与属性约简后得到的规则相比,它们的数量与平均每条规则包含的特征属性数相对较少。最后,在理论分析的基础上,通过实例验证了算法可行性,并通过实验验证了算法的正确性和高效性。     

用粗糙集构造基于知识的模糊多层感知器

提出了用粗糙集理论构造模糊多层感知器的方法。使用粗糙集从样本信息表中抽出关于领域的规则以及规则的精确度和覆盖度。网络的结构由已经抽取的规则映射而成,初始连接权由规则的精确度和覆盖度确定。论文给出了基于信息熵的知识的简算法。运用于水稻虫害分类的试验结果表明：这种基于知识的模糊多层感知器与传统感知器相比,具有较少的隐层节点,并能做出正确的特征分类。