信息熵在区域土地利用结构研究中的应用--以重庆市江北区为例

提出了信息熵的2个应用领域:①信息熵是土地利用系统有序程度的标志,其变化能反映系统的状态与演 化趋势.②信息熵的序列变化可用来刻画土地利用结构的动态演变.分析了江北区1996年至2003年信息熵的变 化,认为土地利用系统呈有序度降低.     

一种新信息熵及其若干性质

引入了一种在图像处理中使用的新信息熵HPal，并证明了该信息熵的若干性质，这些性质符合对有限集划分所包含不确定性程度的直观理解。该信息熵可用于刻画有限集划分所蕴涵的知识量，对HPal的研究将有助于设计基于HPal的启发式搜索准则，以构造新的知识处理算法。     

基于联合信息熵和粗糙集理论的关联知识发现

研究了基于联合熵和粗糙集理论的关联规则挖掘算法,改进了基于粗糙集的属性离散化方法—连续属性联合熵差离散化算法;以联合信息熵作为属性约简的标准,提出了基于联合熵的知识约简算法;并给出了以支持度、兴趣度和准确度为阈值的有效关联规则算法.     

一种新信息熵及其若干性质

引入了一种在图像处理中使用的新信息熵Hpal, 并证明了该信息熵的若干性质， 这些性质符合对有限集划分所包含不确定性程度的直观理解,该信息熵可用于刻画有限集划分所蕴涵的知识量，对Hpal的研究将有助于设计基于Hpal的启发式搜索准则, 以构造新的知识处理算法。     

基于信息熵的知识网度量方法及应用

为了解决知识网库中知识网的选择问题,提出了一种基于信息熵的知识网度量方法.首先,定义了基于信息熵的知识量函数,并证明了知识量函数的单调性.然后,将基于信息熵的知识网度量法用于基于用户功能需求的知识网选择中,并将基于用户功能需求的相似性和知识量作为评价知识网的量化指标.最后,在.NET平台上利用C#语言和数据库管理系统SQL Server 2000,开发出基于用户功能需求的知识网选择的使能工具,并通过实例证明,相似性和知识量的结合可以更好地对知识网进行度量.用户功能需求越详细,且知识网库中的知识网相似性值和知识量值越接近目标知识网,则搜索到的知识网越能满足用户的需求.     

一种效能评估中缺失数据的填充方法

针对评估数据缺失的问题,提出了一种新的缺失数据填充方法.从信息熵的角度对评估系统进行描述,并提出一种建立在区间值信息系统上的加权广义信息熵,对这种信息熵的非负性、单调性和极值性进行证明.在此基础上,通过研究评估系统数据缺失前后信息熵的变化情况,建立一种基于加权广义信息熵的缺失数据填充方法,并从知识粒度的角度论述加权广义信息熵的机制.通过实例分析与现有的部分算法进行比较,进一步证明文中算法对评估系统缺失数据填充的有效性.     

基于决策树的轨道电路故障诊断知识表示方法研究

针对ZPW-2000A无绝缘轨道电路故障逻辑机理模糊的问题,本文采用了基于决策树的轨道电路专家系统知识表示方法.该方法首先将轨道电路故障影响较大的特征向量样本建立故障决策表,然后运用最小信息熵算法对属性值离散化,根据决策树算法快速学习及分类的特点对离散后的数据样本进行训练学习,生成故障决策树后进行知识规则的获取,在专家系统的知识库中以产生规则存储.通过对ZPW-2000A无绝缘轨道电路的实例分析验证了该方法在轨道电路专家系统知识表示与获取中的有效性和实用性.     

知识包含度与粗糙集数据分析中的信息熵

从一个新的角度定义了知识包含度,证明了新定义的知识包含度与文[3]中所给出的知识条件信息熵之间具有严格互补的关系.     

一种 Hu差别矩阵属性约简的高效算法

针对决策表,首先从理论上证明了相对知识量与新条件信息熵的等价性,从而保证可以从相对知识量的角度计算Hu差别矩阵属性约简．为快速计算出决策表属性的相对知识量,给出一种相对知识量的递归计算公式,从而得到新条件信息熵的递归计算公式．以此为基础给出一种属性重要性定义并设计出一种计算Hu差别矩阵属性约简的启发式算法．算例和实验结果验证该算法是高效的．     

基于信息熵的不完备信息系统属性约简算法

在现实生活中信息的不完备现象广泛存在,等价关系不一定成立,限制了经典Rough集理论在一些实际问题中的应用.从信息论角度出发引入信息熵的概念,提出了不完备信息系统中知识熵的度量方法,定义了信息观下不完备信息系统知识约简的方法,分析并讨论了与现有其他约简定义的关系,给出了一种基于信息熵的不完备信息系统属性约简算法,通过仿真实验说明了该算法对于不完备信息表知识约简是可行的.     

模糊粗糙集粗糙熵的修正

在粗糙集理论中,由于用模糊粗糙熵去度量RF集的不确定性更具有直观性,所以如何利用香农信息熵理论定义模糊粗糙集的熵的度量,是一个值得研究的问题.结合知识粗糙性和信息熵给出了模糊粗糙集的熵的度量新定义,并对其一些性质进行了讨论.     

基于启发式信息熵的粗集数值属性离散化算法

在一致性假设前提下,以数据集的统计性质作为启发式知识,从候选离散点集中选择离散点,根据数据集的期望值和方差来确定搜索最优离散点的区域,提出一种新的基于信息熵粗集数值属性离散化算法,并采用UCI国际标准数据集来验证新算法.新算法与已报道的算法所得到的离散断点集完全一致,决策表的离散化结果也相同,但时间代价不同,新算法比其计算效率提高40%～50%.     

关于命题知识信息熵计量估算方法的探讨

基于申农(Shannon)的狭义信息论思想，分析了知识和知识信息的相关特征，提出一种关于以命题形式表征知识信息熵的近似计量估算方法。     

多关系离散化方法

为了从多关系数据库中挖掘知识,需要对连续取值的属性进行离散化。已有离散化方法都是针对单表设计,不能直接用于多关系环境。基于信息熵和最小描述长度原理,该文提出3种多关系离散化方法,分别为对表关系图的广度遍历方法(MRD_Breadth)、对表关系图的深度遍历方法(MDR_Depth)和选择较优路径的贪婪算法(MDR_Greedy),实现了不同的类别传递和离散化方法选择策略。实验结果表明这些方法可以提高分类算法的效率和准确度。     

信息熵在粗糙集理论中的应用

信息熵在粗糙集理论中有着重要的应用 ,它可用来度量知识的不确定性、属性关联的重要性及粗糙集的不确定性等。文章综述并分析这些度量     

近似边界精度信息熵的属性约简

针对信息观只考虑知识粒度的大小,不能客观、全面度量属性重要性的不足,首先从代数观出发,提出近似边界精度的定义;其次,根据相对模糊熵的定义,提出相对信息熵及增强信息熵概念,与相对模糊熵相比具有明显的放大作用;再次,将近似边界精度融合相对信息熵和增强信息熵,提出两种新的属性约简方法,在求U/(B∪b)时充分利用U/B的结果,可大大减少系统的时间开销;最后,通过实验分析和比较,本文算法在约简质量、分类精度上的可行性和有效性得到了验证.     

k-匿名机制下查询隐私的一种度量方法

在k-匿名机制下,提出一种以信息熵和对数函数为基础的查询隐私度量方法.首先,建立k-匿名机制下的查询隐私的度量模型,包含4种角色和4种操作,为隐私保护的度量提供形式化的描述.然后,介绍两种背景知识的量化方式.针对第二种方式,由于用户属性离散化后的数值会被计算入背景知识概率表达中,造成背景知识概率表达的不准确,为此提出将离散化后的用户属性值作为特定查询和用户属性相关量的下标来求得相关量,从而进一步得到用户发出此特定查询的概率,摆脱了用户属性离散化后的数值对量化结果的影响.最后,提出查询隐私的度量方法.实验结果表明,该隐私度量方法能够较为有效地度量k-匿名机制下查询隐私算法的保护水平.     

信息熵与广义集合集成的轴承-转子系统故障辨识方法

基于信息融合思想,对描述振动信号能量的3种信息熵测度,即时域的奇异谱熵、频域的功率谱熵、时-频域的小波能谱熵,在轴承-转子系统故障辨识中的应用方法进行研究.在根据广义集合概念对3种信息熵测度进行特征级的信息融合基础上,提出一种基于时空(场)广义信息熵集合的轴承-转子系统故障辨识方法.分析结果表明,该方法具有在三维特征空间图形化描述故障的状态域,使不同故障类别间显示出显著差别的性能,对提高辨识故障的准确率具有参考价值.     

基于信息熵的诊断过程认知信息流分析

从认识论和广义信息论的角度，认为故障诊断过程是一个认知主体借助多种认知工具进行状态辨识的过程，围绕故障认知的有关基本问题，可以从信息熵的传递过程加以解释。运用信息熵进行了数学推导，并阐明了诊断过程的认知信息流的流动过程。最后提出了建立多征兆域综合特征知识体的思路，以解决诊断信息先天获取不足和认知能力随复杂性降低的诊断知识获取问题。     

一种面向缺失数据的信息熵和知识粒度

针对含有缺失数据的数据集的不确定性度量问题,分别给出了信息熵和知识粒度的公理化定义,并提出了该环境下的粗糙集的两种不确定性度量,证明了精度是一种信息熵,粗糙度是一种知识粒度,并得出了几个较好的性质,进一步克服了已有缺失数据集不确定性度量的部分局限性,实例验证了不确定性度量的有效性,且适合度量含缺失数据的粗糙集的模糊性和精确性。