首页 | 本学科首页   官方微博 | 高级检索  
相似文献
 共查询到18条相似文献,搜索用时 123 毫秒
1.
相对熵密度fn(ω)=-1nlnp(X1,…,Xn)的极限性质是信息论中的一个重要问题。本文利用相对于无记忆信源熵密度偏差的概念,研究任意离散信源相对熵密度的极限性质,得到了一个用不等式表示的强极限定理(称之为强偏差定理)。  相似文献   

2.
相对熵密度fn(ω)=-(1)/(n)lnp(X1,...,Xn)的极限性质是信息论中的一个重要问题.本文利用相对于无记忆信源熵密度偏差的概念,研究任意离散信源相对熵密度的极限性质,得到了一个用不等式表示的强极限定理(称之为强偏差定理).  相似文献   

3.
利用任意信源相对熵密度偏差的概念,使用分析的方法研究了齐次马氏信源的一类强偏差定理,得出了一个二元函数的一类强偏差定理和几个极限性质.  相似文献   

4.
利用熵密度偏差,研究了服从几分分布的离散加权信源的极限性质,其主要结果推广了离散信源Shannon-Mcmillan定理。  相似文献   

5.
通过引入任意离散随机序列联合分布相对于乘积参考分布的滑动相对熵概念,建立了任意相依离散随机变量序列滑动相对熵的一个小偏差定理。  相似文献   

6.
陈文波 《河南科学》2004,22(2):151-153
利用样本相对熵作为一般非负连续型随机变量序列相对于服从指数分布的独立但不同分布随机变量序列偏差的一种随机性度量,运用鞅理论及分析方法,研究了一类随机变量序列加权和的强偏差定理,并讨论了任意连续信源的相对熵密度的若于极限性质。  相似文献   

7.
设{X_n,n≥1}是连续随机序列,其联合分布密度为g_n(x_1,…,x_n),f_k(x_k)是X_k的边缘分布密度。利用关于乘积分布密度sum from n to k=1 f_k(x_k)的相对熵和相对熵率的概念,建立了连续随机序列关于样本微分熵的一类强偏差定理。  相似文献   

8.
设{Xn,n≥1}是连续随机序列,其联合分布密度为gn(X1,…,Xn),fk(Xk)是Xk的边缘分布密度。利用关于乘积分布密度nПk=1 fk(Xk)的相对熵和相对熵率的概念,建立了连续随机序列关于样本微分熵的一类强偏差定理。  相似文献   

9.
设{Xn,n≥1}是任意连续型随机序列,引入相对熵hμμ(w)作为随机序列{Xn,n≥1}的概率测度μ与参考测度μ之间偏差的一种随机性度量,在适当条件下,给出了任意连续型随机变量部分和小偏差定理.  相似文献   

10.
本文引进m值随机变量序列滑动似然比和滑动相对熵的概念,并利用这两个概念给出了关于给定值在此随机序列中出现频率的一个强极限定理及其相关推论。  相似文献   

11.
熵的泛化及应用   总被引:1,自引:2,他引:1  
熵是热学中一个重要的物理概念,也是近年来一个发展特别活跃的基本概念.自1865年克劳休斯提出熵以来,随着各学科的相互渗透和科学综合化发展,熵概念已经远远超出物理学的范畴.信息熵的出现,成为了熵正式泛化的标志.目前,熵的概念在自然和社会科学的许多领域中得到广泛的推广和应用,熵已成为了一种新的世界观.  相似文献   

12.
基于信息熵的信息系统及决策表的属性约简   总被引:1,自引:0,他引:1       下载免费PDF全文
利用新的信息熵,给出信息系统信息熵的约简方法及决策表的相对信息熵约简判定定理,证明分布协调集一定是相对信息熵的协调集.  相似文献   

13.
利用样本相对熵作为任意离散型随机变量相对独立变量偏差的一种随机性变量 ,采用研究强极限定理的一种新方法——网微分法 ,得到了一个关于离散型随机变量序列加权和的强稳定性定理  相似文献   

14.
Shannon熵在信息论的发展和应用中起着关键的作用,但是Shannon熵还存在许多局限性。为了更好地克服Shannon熵的局限性,在前人的基础上修改了Shannon熵的公理。用公理化的方法,推导出了有限分布列的离散型随机变量的信息量系,不仅将它推广到连续型随机变量,而且将信息量系的最大信息量定理推广到连续型随机变量,统一了离散型和连续型随机变量的信息度量算法。最后利用得出的结论对连续型随机变量信息熵给出两个验证性算例。  相似文献   

15.
分析了在知识约简过程中经典粗糙集理论决策表知识约简方法的不足。以知识粗糙熵为基础,将一致和不一致对象分开,提出决策熵的概念及其属性重要性,在此基础上给出约简的判定定理;然后以条件属性子集的决策熵来度量其对决策分类的重要性,提出一种新的知识约简启发式方法。理论分析和实验结果表明,基于决策熵的属性重要性是一种更有效的启发式信息,该方法时间复杂度较低,有助于搜索最小或次优约简。  相似文献   

16.
一种新的基于决策熵的决策表约简方法   总被引:2,自引:0,他引:2  
分析了在知识约简过程中经典粗糙集理论决策表知识约简方法的不足.以知识粗糙熵为基础,将一致和不一致对象分开,提出决策熵的概念及其属性重要性,在此基础上给出约简的判定定理;然后以条件属性子集的决策熵来度量其对决策分类的重要性,提出一种新的知识约简启发式方法.理论分析和实验结果表明,基于决策熵的属性重要性是一种更有效的启发式信息,该方法时间复杂度较低,有助于搜索最小或次优约简.  相似文献   

17.
熵与信息     
从熵的微观意义出发 ,利用麦克斯韦妖的启示 ,将热力学熵概念应用于信息论中 ,揭示了信息量与信息熵之间的关系 ,并且说明了信息熵在信息论中的重要地位。  相似文献   

18.
物理熵与信息熵的辨证统一   总被引:1,自引:0,他引:1  
从广义和狭义角度,论述了物理熵与信息熵的不同物理内涵,并根据熵研究的最新进展,提出并论证了二熵的辨证统一性.  相似文献   

设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号