模糊集中的无限非概率测度熵

目的 为得到模糊信息论的一些重要性质和定理。方法 以模糊熵的数学性质为基础，以Shannon熵为工具进行研究。结果 给出了无限非概率测度熵的定义及性质，并对无限非概率测度条件熵及模糊互信息给出了定义，进而研究了其性质并给出了相关定理。结论 其结果深化和发展了模糊信息论的内容。     

随机变量序列的证实集及其性质

给出了随机变量序列的证实集的定义及其几种等价形式，在此基础上利用熵和互信息讨论了证实集的若干性质．     

动态统计信息理论

将现有Shannon静态统计信息理论拓展至动态过程, 建立了以动态信息熵和动态信息的演化规律为核心的Shannon动态统计信息理论. 与此相对应, 还提出了Boltzmann动态统计信息理论. 基于动力学系统各自的态变量演化方程、即Fokker-Planck方程和Liouville扩散方程可看成是其信息符号演化方程, 推导出了表述动态熵和动态信息的演化规律的Shannon动态熵密度和动态信息密度的非线性演化方程以及Boltzmann动态熵密度和动态信息密度的非线性演化方 程. 这两种动态熵和动态信息的演化方程一致显示: 动态熵密度随时间的变化率是由其在系统内部的态变量空间和传递过程的坐标空间的漂移、扩散和产生三者引起的, 而动态信息密度随时间的变化率则是由其在系统内部的态变量空间和传递过程的坐标空间的漂移、扩散和耗损三者引起的. 熵和信息己与系统的状态和运动规律联系在一起. 进而给出了两种熵产生率公式和信息耗损率公式, 两种漂移信息流和扩散信息流的表达式. 证明了两种信息耗损率(或总信息的减少率)等于其相应的熵产生率(或总熵的增加率). 得到了反映信息在传递过程中耗损特性的两种动态互信息公式和动态信道容量公式, 它们在信道长度与信号传递速度之比趋于零的极限情况下变为现有的静态互信息公式和静态信道容量公式. 所有这些新的理论公式和结果都是从动态信息演化方程和动态熵演化方程统一推导出的. 综述了上述思想、方法、主要结果和典型运用, 讨论了两种动态统计信息理论的同异.     

基于自适应邻域互信息与谱聚类的特征选择

借鉴邻域粗糙集处理连续型数据的优势,为解决传统谱聚类算法需要人工选取参数的问题,提出基于自适应邻域互信息与谱聚类的特征选择算法。首先,定义各对象在属性下的标准差集合与自适应邻域集,给出自适应邻域熵、平均邻域熵、联合熵、邻域条件熵、邻域互信息等不确定性度量,利用自适应邻域互信息对特征与标签的相关性进行排序。然后,结合共享近邻自适应谱聚类算法,将相关性强的特征聚到同一特征簇内,使不同特征簇内的特征强相异。最后,使用最小冗余最大相关技术设计特征选择算法。在10个数据集上选择特征个数与分类精度的实验结果,验证了所提算法的有效性。     

熵变概念的拓展

在Prigogine熵变公式和Shannon信息熵公式的基础上,提出了人体熵变的概念.指出人头脑中信息或知识的更替应成为人体熵变的一部分.给出了广义熵变公式,并讨论了其意义.     

基于Tsallis相对算子熵的不等式

目的 为了研究信息熵之间的关系.方法 利用一个函数的数学性质和矩阵Tensor积的性质.研究了关于Tsallis相对算子熵的性质和不等式的问题.结果 得到了Tsallis相对算子熵的上界和下界,同时讨论了Tsallis相对熵关于n个算子Tensor积的次可加性.结论 所得结果是Tsallis熵的次可加性的推广.     

基于互信息和测度学习信度网结构

交叉熵是对一个分布与其近似分布的接近程度的度量。在许多关于信度网结构的学习文献中,都将交叉熵作为检验算法学习效果的一个指标。笔者直接从交叉熵最优这一指标出发,在分析已有测度的基础上,提出了一个新的测度－互信息和测度,并证明了该测度的可分解性质。最后,给出了利用互信息和测度进行信度网结构学习的两种启发式搜索算法。     

熵概念研究

对熵进行了讨论,熵是物理学中的一个基本问题,通过熵的发展过程分析,建立了熵的层次性概念,用热力学方程分析了熵,并给出了熵的层次关系证明。结果表明,克劳修斯熵最小,玻尔兹曼熵居中,申农熵最大。     

一类高维两体二参量态的量子纠缠特性

讨论了两体高维（mn,m≥3）量子系统一类两参量态的量子纠缠特性.计算了它们的负值度N（negativity）和量子相对熵纠缠度Er,得到了解析表达式.最后讨论这二种纠缠度之间的关系.分析表明这一类两参量态的PPT态都是可分离态,所有纠缠态都是NPT态.与2？n量子系统不同,高维情形不再有负值度总是大于等于量子相对熵纠缠度的简单关系,更一般的关系式为mN/2≥Er.     

基于误差分析的直觉模糊熵权确定法

依据传统的熵权概念,将其推广到直觉模糊数的情形,给出一种确定直觉模糊熵权的误差分析方法.由此方法得到的熵权,可为决策分析提供有用的信息.     

区间值序决策表的条件熵属性约简

由于数据自身的不确定性和观测条件有限，现实问题中许多数据以区间值形式呈现。其中，优势关系下的区间值信息表研究对于多属性决策问题有重要意义。目前针对该系统的属性约简方法主要是辨识矩阵法或基于互信息的增量式约简，但前者计算效率较低，而后者没有利用到决策信息。文章探讨了条件熵作为不确定性度量在该系统下的性质，通过比较不同属性缺失时信息系统的条件熵变化，引入了属性重要度概念，基于此提出启发式属性约简算法。最后，通过对比实验验证了本算法具有低冗余的特点，在约简率上比基于粗糙熵和正域不变等序信息系统的启发式约简。     

群决策中基于不同偏好信息的相对熵集成方法

研究了基于不同形式偏好信息的群决策问题.在群决策中专家根据个人的偏好,常常对决策方案集给出4种不同形式的偏好信息,包括直接反映决策方案优劣次序的序关系值和效用值,以及2个决策方案成对比较互反判断矩阵和模糊互补判断矩阵.首先给出了序关系值、互反判断矩阵和模糊互补判断矩阵3种偏好信息均转化为效用值形式的计算公式, 然后从相对熵的概念出发,提出了一种相对熵最优化的集成模型,给出了模型的解.最后进行了2个实例分析,结果表明所提出集成方法是有效的.     

基于随机密度矩阵特征值联合分布的广义微分熵研究

研究了基于随机密度矩阵特征值联合分布的广义微分熵。首先,在罗莱珍等人的论文基础上,计算在Wishart矩阵特征值联合分布下的广义微分熵;然后,采用Laplace变换和Laplace逆变换来计算在随机量子态特征值联合分布下以及在随机密度矩阵对角线联合分布下的微分熵;另一方面,研究了由随机量子态所诱导的相关随机矩阵模型,该模型在量子信息理论中有着重要的作用;最后,以Renyi熵和Tsallis熵为例来验证在3种情形下的广义微分熵,并推广了罗莱珍等人的结果。     

形式背景上基于矩阵信息熵的矩阵熵约简

概念格的属性约简是知识表示和数据处理的一种有力工具，已被成功应用到多个领域，寻求高效快速的属性约简算法仍然是概念格理论的主要研究热点.从信息熵和布尔矩阵的角度研究形式背景的属性约简，提出属性约简的新方法.首先，在形式背景上定义矩阵信息熵、矩阵条件熵、矩阵联合熵和矩阵互信息熵，研究它们的性质和相互之间的关系.接着，在形式背景上提出基于矩阵信息熵的矩阵熵协调集和矩阵熵约简的定义，给出了属性的重要性度量，利用矩阵信息熵刻画核心属性、相对必要属性和不必要属性的属性特征，再给出获取矩阵熵约简的方法和算法.最后，利用UCI数据集进行测试，验证了基于矩阵信息熵的矩阵熵约简算法的有效性.通过对比实验，证明该算法具有更加高效的约简性能且适用于大数据样本.     

线性非平衡系统的内变量涨落

推导并给出了线性非平衡系统的内变量涨落的均方差公式，给出了稳定性条件、讨论了相应的均方差、熵平衡方程以及弛豫时间等热力学参量之间的关系。     

蚁群算法搜索熵研究

借鉴信息熵,提出蚁群算法的熵模型,定义蚁群算法的3种搜索熵,讨论了搜索熵同算法搜索能力和收敛性之间的关系,给出了2个简化模型的基于搜索熵的收敛性判定定理,并利用搜索熵讨论了参数选择对蚁群算法的影响.     

两类拓扑熵的关系

Bowen给出的拓扑熵与Pesin给出的拓扑熵条件都要比开覆盖定义的拓扑熵条件宽泛.但是他们的条件又不一样,各有局限性.讨论了Bowen给出的拓扑熵与Pesin给出的拓扑熵的之间的关系,证明了二者在条件一致的情况下是等价的.     

关于密码体制的完善保密性

从信息论的角度对密码体制的完善保密性进行了研究,通过比较明文空间、密文空间及密钥空间的各种熵和互信息量之间的关系得到了一般密码体制达到完善保密的一些充分与必要条件.此外,对每个密钥被等概使用的密码体制达到完善保密的条件进行了研究,得到了这类体制达到完善保密的1个充分必要条件.研究结果表明:一个密码体制要达到完善保密它的密钥空间的熵应不小于密文空间的熵;明文空间与密文空间的互信息量应该为零;密文空间互信息和密钥空间之间的互信息有关.     

层次分析中相对熵算法的若干性质

讨论了相对熵算法的一般性质，并给出了特征根法、梯度特征向量法、改进梯度特征向量法同相对熵算法等价的充要条件。     

三量子比特纯态紧致相对熵纠缠度的计算

分别从三量子比特纯态的正则形式和Linden-Popescu-Schlienz标准形式出发,计算三量子比特纯态的紧致相对熵纠缠度及W态的紧致相对熵纠缠度.指出紧致相对熵纠缠度不具有LU不变性,并给出它与P相对熵纠缠度之间的关系.