信息熵的性质及应用

信息熵是随机变量不确定性的度量,文中从信息熵的定义出发,结合信息熵的性质,介绍了目前信息熵在具体问题中的应用。     

基于信息熵的信息系统及决策表的属性约简

利用新的信息熵,给出信息系统信息熵的约简方法及决策表的相对信息熵约简判定定理,证明分布协调集一定是相对信息熵的协调集．     

异常检测中信息熵灵敏度分析

信息熵的概念广泛应用于流量异常检测中,信息熵可以用于衡量流量在某个特征分布的离散程度.基于信息熵的流量异常检测,往往需要进行阈值选择,用于判定实际流量特征分布的信息熵与基准分布的信息熵偏差多少就将其划分为异常.本文通过信息熵灵敏度分析来为阈值的选择提供参考.     

一种基于粗糙集理论的互补信息熵的新定义

在粗糙集理论中给出了一种互补信息熵的新定义,该信息熵具有与香农熵相同的性质,即随着划分粒度的加细,互补信息熵单调增加。当划分为最大粒度时,信息熵取值为0;当划分为最小粒度时,信息熵取值为1-1/|U|。实例表明随着信息熵的增加,划分不一定变细,即定理3的逆命题一般情况下不成立。     

基于信息熵的软件维护风险度量

 针对软件维护过程中不确定信息难以量化的问题,使用信息熵定量度量软件的维护风险.基于信息熵,引入信息熵定量分析算法,提出了软件维护风险模型,使用信息熵算法定量计算软件维护过程中的不确定程度和损失度.仿真结果表明,基于软件维护风险模型,使用信息熵算法能够定量度量软件的维护风险.     

最大信息熵原理对提高大学数学教学质量的启示

信息熵理论中有信息量、信息熵等重要概念,在教育领域也得到了广泛的应用,信息论中的最大信息熵原理,已经成为提高教育质量新的依据.本文探讨了最大信息熵原理对提高大学数学教学质量的几点启示.     

基于方差的新定义连续信息熵性质的研究

信息熵作为信息的度量,是信息理论的基本量之一。信息熵分为离散信息熵和连续信息熵。连续信息熵,又称为微分熵H_S,由于其不满足量纲一致性原则,也不具有非负性和坐标变换不变等性质,因此实际上并不能构成一种良好的信息度量。本文分析讨论了White提出的基于连续随机变量均方差的改进的连续信息熵H_W。比较分析了H_W的数学和物理性质及其取值不确定性参数的物理意义。     

基于信息熵的河床演变分析

采用信息熵的理论与方法,引入河床演变的指标信息熵和年份信息熵概念,并给出计算公式定量地分析河床演变.选取黄河下游6个河段作为研究区域,利用每个河段1972—2000年影响因素的实测资料计算了各个影响因素对河床演变影响的客观权重和河段年份信息熵.通过对比研究结果可以看出:能够反映组成河岸与河床物质的相对可动性的宽深比对河床演变的权重最大,并且河床边界条件对河床演变的影响大于来水来沙条件;6个河段的年份信息熵的大小,依次是花—夹河段、夹—高河段、高—孙河段、孙—艾河段、艾—泺河段和泺—利河段,表明年份信息熵越大河型越不稳定,年份信息熵越小河型越稳定有序;同时验证了信息熵越大系统越混乱、信息熵越小系统越有序的结论.     

信息熵及其随机性

通过对信息、信息量和信息熵概念的表述,讨论了信息熵的随机性,有助于人们对信息熵的来源和物理意义有更全面更深刻的理解。     

模糊物元信息熵评价方法在工程评标中的应用

在模糊物元和模糊信息熵分析基础上,提出了模糊信息熵物元评价方法,并建立了基于模糊物元的信息熵工程评标模型,首先根据从优隶属度原则,将多方案指标值转化为隶属度;然后,构造模糊信息熵物元,计算并比较相应的信息熵值：接下来,根据模糊信息熵最大化原则,优选出最合理投标方案,结果表明该方法与其他评价方法所得结论一致,与实际相符,从而验证了该方法的有效性,最后,对评价模型进行了必要的改进。     

广义熵与样本熵差渐近计算

本文引进(k,s)阶广义熵,q阶Shannon熵及q阶Renvi熵。考察其极值性,单调性等基本特性,论述其作为随机模式在主观先验知识条件下不肯定性度量之特征。通过与数据方差的比较,阐明数据熵差作为数据差异性度量的一系列性质。最后利用对数(?)函数给出样本熵差的渐近计算。     

水文模拟的熵理论

借助Shannon熵和最大熵原理提出了熵理论,并基于此理论,提出了一种水文模拟方法,结合两个实例阐述了该方法在下渗和流速分布模拟中的应用.     

熵(Ⅰ)

一般不确定性问题所包涵的“不确定”的程度，在多数情况下是可以用数学来定量地描述的，关于不确定性的数学度量，我们称之为熵．这里，首先介绍物理学家、化学家早已熟悉的热力学熵，并对古典的Boltzmann熵作数学描述，进而对随着信息理论的需要而出现的Shannon熵作一番论述．并对熵在现实世界中的应用进行研究．     

基于统计复杂度的非对称双稳系统的动力学复杂性研究

本文运用统计复杂度和标准Shannon熵研究了乘性色噪声和加性白噪声共同作用下非对称双稳系统的动力学复杂性.考虑到系统势函数的非对称性,借助于Bandt-Pompe算法分别计算了系统总的以及左、右势阱的统计复杂度和标准Shannon熵,并在此基础上详细讨论了势阱的非对称性、加性白噪声、乘性色噪声及周期信号等对系统动力学复杂性的影响.结果表明,当这些因素变化时,系统总的统计复杂度和标准Shannon熵与系统单个势阱中的统计复杂度和标准Shannon熵呈现出明显不同的趋势,反映了其动力学复杂性的不同.     

基于二维灰度熵及混沌粒子群的图像阈值选取

为了同时考虑直方图的概率信息和类内灰度级的均匀性,提出了基于灰度级-梯度二维直方图的Shannon灰度熵及Tsallis灰度熵阈值选取方法.给出了Shannon灰度熵和Tsallis灰度熵的定义及其一维阈值选取方法,导出了二维Shannon灰度熵及Tsallis灰度熵阈值选取公式及其快速递推算法,并利用混沌粒子群算法寻求两种阈值选取方法的最佳阈值.实验结果表明,与基于改进的二维最大熵及粒子群递推的阈值选取方法相比,所提出方法的分割图像能更准确地反映原始图像的边缘、纹理及细节信息.     

Shapley熵的公理刻画

Shapley熵是利用Shapley值而定义的容度的熵.本文首先对一个模糊测度进行分解,并解释了这种分解的含义,从而得到了Shapley熵的递归性质;然后,利用Shannon熵和Shapley值的公理刻画给出了Shapley熵的公理刻画.     

模糊粗糙集粗糙熵的修正

在粗糙集理论中,由于用模糊粗糙熵去度量RF集的不确定性更具有直观性,所以如何利用香农信息熵理论定义模糊粗糙集的熵的度量,是一个值得研究的问题.结合知识粗糙性和信息熵给出了模糊粗糙集的熵的度量新定义,并对其一些性质进行了讨论.     

模糊集中的无限非概率测度熵

目的 为得到模糊信息论的一些重要性质和定理。方法 以模糊熵的数学性质为基础，以Shannon熵为工具进行研究。结果 给出了无限非概率测度熵的定义及性质，并对无限非概率测度条件熵及模糊互信息给出了定义，进而研究了其性质并给出了相关定理。结论 其结果深化和发展了模糊信息论的内容。     

熵概念研究

对熵进行了讨论,熵是物理学中的一个基本问题,通过熵的发展过程分析,建立了熵的层次性概念,用热力学方程分析了熵,并给出了熵的层次关系证明。结果表明,克劳修斯熵最小,玻尔兹曼熵居中,申农熵最大。