信息熵的性质及应用

信息熵是随机变量不确定性的度量,文中从信息熵的定义出发,结合信息熵的性质,介绍了目前信息熵在具体问题中的应用。     

最大信息熵原理对提高大学数学教学质量的启示

信息熵理论中有信息量、信息熵等重要概念,在教育领域也得到了广泛的应用,信息论中的最大信息熵原理,已经成为提高教育质量新的依据.本文探讨了最大信息熵原理对提高大学数学教学质量的几点启示.     

基于方差的新定义连续信息熵性质的研究

信息熵作为信息的度量,是信息理论的基本量之一。信息熵分为离散信息熵和连续信息熵。连续信息熵,又称为微分熵H_S,由于其不满足量纲一致性原则,也不具有非负性和坐标变换不变等性质,因此实际上并不能构成一种良好的信息度量。本文分析讨论了White提出的基于连续随机变量均方差的改进的连续信息熵H_W。比较分析了H_W的数学和物理性质及其取值不确定性参数的物理意义。     

基于信息熵的软件维护风险度量

 针对软件维护过程中不确定信息难以量化的问题,使用信息熵定量度量软件的维护风险.基于信息熵,引入信息熵定量分析算法,提出了软件维护风险模型,使用信息熵算法定量计算软件维护过程中的不确定程度和损失度.仿真结果表明,基于软件维护风险模型,使用信息熵算法能够定量度量软件的维护风险.     

信息熵及其随机性

通过对信息、信息量和信息熵概念的表述,讨论了信息熵的随机性,有助于人们对信息熵的来源和物理意义有更全面更深刻的理解。     

模糊物元信息熵评价方法在工程评标中的应用

在模糊物元和模糊信息熵分析基础上,提出了模糊信息熵物元评价方法,并建立了基于模糊物元的信息熵工程评标模型,首先根据从优隶属度原则,将多方案指标值转化为隶属度;然后,构造模糊信息熵物元,计算并比较相应的信息熵值：接下来,根据模糊信息熵最大化原则,优选出最合理投标方案,结果表明该方法与其他评价方法所得结论一致,与实际相符,从而验证了该方法的有效性,最后,对评价模型进行了必要的改进。     

初探熵在生命科学中的应用

用信息熵理论就生命过程、衰老、生病等一系列生命现象做了解释,阐述了信息熵在遗传学以及医学临床研究的半定量作用,并对用信息熵解释生命现象的前景作了展望.     

基于信息熵的河床演变分析

采用信息熵的理论与方法,引入河床演变的指标信息熵和年份信息熵概念,并给出计算公式定量地分析河床演变.选取黄河下游6个河段作为研究区域,利用每个河段1972—2000年影响因素的实测资料计算了各个影响因素对河床演变影响的客观权重和河段年份信息熵.通过对比研究结果可以看出:能够反映组成河岸与河床物质的相对可动性的宽深比对河床演变的权重最大,并且河床边界条件对河床演变的影响大于来水来沙条件;6个河段的年份信息熵的大小,依次是花—夹河段、夹—高河段、高—孙河段、孙—艾河段、艾—泺河段和泺—利河段,表明年份信息熵越大河型越不稳定,年份信息熵越小河型越稳定有序;同时验证了信息熵越大系统越混乱、信息熵越小系统越有序的结论.     

信息熵在区域土地利用结构研究中的应用--以重庆市江北区为例

提出了信息熵的2个应用领域:①信息熵是土地利用系统有序程度的标志,其变化能反映系统的状态与演 化趋势.②信息熵的序列变化可用来刻画土地利用结构的动态演变.分析了江北区1996年至2003年信息熵的变 化,认为土地利用系统呈有序度降低.     

一种基于粗糙集理论的互补信息熵的新定义

在粗糙集理论中给出了一种互补信息熵的新定义,该信息熵具有与香农熵相同的性质,即随着划分粒度的加细,互补信息熵单调增加。当划分为最大粒度时,信息熵取值为0;当划分为最小粒度时,信息熵取值为1-1/|U|。实例表明随着信息熵的增加,划分不一定变细,即定理3的逆命题一般情况下不成立。     

基于信息熵的信息系统及决策表的属性约简

利用新的信息熵,给出信息系统信息熵的约简方法及决策表的相对信息熵约简判定定理,证明分布协调集一定是相对信息熵的协调集．     

异常检测中信息熵灵敏度分析

信息熵的概念广泛应用于流量异常检测中,信息熵可以用于衡量流量在某个特征分布的离散程度.基于信息熵的流量异常检测,往往需要进行阈值选择,用于判定实际流量特征分布的信息熵与基准分布的信息熵偏差多少就将其划分为异常.本文通过信息熵灵敏度分析来为阈值的选择提供参考.     

玻尔兹曼统计分布律推导的新方法

本文从信息熵概念着手,利用信息熵的极值性质导出了Boltzmann分布律。     

信息熵与网络信息资源管理

网络信息资源增长迅速同时呈现无序、混乱等特点。本文在信息熵理论的基础上,分析了网络信息资源中的信息熵增问题,并提出解决网络信息资源信息熵增问题的若干方法。     

基于信息熵的图像处理技术

为了提高图像处理的精度,从而能更好地对图像进行分割处理,研究了基于信息熵的图像处理技术。首先分析了图像信息熵和基于局域信息熵符号压力函数,在此基础上设计了图像处理的算法。最后通过一组实验验证了算法的有效性。     

多光子J-C模型中原子的信息熵压缩

利用J-C模型,在旋波近似下,研究了二能级原子通过多光子跃迁与单模辐射场相互作用系统中原子的信息熵压缩效应。利用数值计算方法讨论了初始的原子分布角,初始相干场的强度对原子的信息熵压缩效应的影响。研究结果表明:k=3时原子的信息熵只有在初始的一个短时间内出现压缩效应;k=4时原子的信息熵可出现周期性的间隙压缩效应,并且随初始光场强度的增大,原子的信息熵出现间隙压缩效应的次数增多,压缩深度加大,压缩效应增强。k>4,原子的信息熵不出现压缩效应。     

信息熵在化学中的应用研究

信息熵是信息论的核心概念,它是信息分布或不确定度的客观量度,它与热力学熵有着必然的联系.它与量子力学中的不确定关系有着本质的联系.应用信息论中的最大信息熵原理,可建立信息熵同各种物理量的不等式或等式关系,为阐明多电子体系的结构和性能的关系提供理论依据.文章简要介绍了信息熵的理论基础和信息熵在化学中的应用研究的发展状况,以及作者在这方面所作的工作.     

一种效能评估中缺失数据的填充方法

针对评估数据缺失的问题,提出了一种新的缺失数据填充方法.从信息熵的角度对评估系统进行描述,并提出一种建立在区间值信息系统上的加权广义信息熵,对这种信息熵的非负性、单调性和极值性进行证明.在此基础上,通过研究评估系统数据缺失前后信息熵的变化情况,建立一种基于加权广义信息熵的缺失数据填充方法,并从知识粒度的角度论述加权广义信息熵的机制.通过实例分析与现有的部分算法进行比较,进一步证明文中算法对评估系统缺失数据填充的有效性.     

基于信息熵贴近度的旋转机械故障诊断

基于信息融合的思想,研究了反映振动能量的旋转机械故障状态的各种信息熵特征,如奇异谱熵、功率谱熵、小波空间状态特征谱熵和小波能谱熵．通过转子试验,给出了旋转机械的不平衡、不对中、支座松动、轴裂纹典型故障下的各信息熵的变化范围．根据越相似的模式间距离越短原理,提出采用贴近度来进行模式识别的方法．首先利用贴近度原理和熵带构建了信息熵贴近度模型,其次计算出待识别状态与各典型故障之间的信息熵贴近度值,则对应于待识别状态之间的信息熵贴近度最大的即为待识别状态的故障模式,最后通过实例描述了基于信息熵贴近度的旋转机械故障诊断方法的可行性．     

熵的概念及其拓展

本文首先追溯了克劳修斯如何提出热力学熵的概念;其次阐述了统计熵,负熵,信息熵的发展,最后将热力学熵和信息熵的定义进行拓展,得到广义热力学熵和广义信息熵的定义及其意义.旨在通过本文的讨论促进人们对熵概念的理解和应用.