动态统计信息理论

将现有Shannon静态统计信息理论拓展至动态过程, 建立了以动态信息熵和动态信息的演化规律为核心的Shannon动态统计信息理论. 与此相对应, 还提出了Boltzmann动态统计信息理论. 基于动力学系统各自的态变量演化方程、即Fokker-Planck方程和Liouville扩散方程可看成是其信息符号演化方程, 推导出了表述动态熵和动态信息的演化规律的Shannon动态熵密度和动态信息密度的非线性演化方程以及Boltzmann动态熵密度和动态信息密度的非线性演化方 程. 这两种动态熵和动态信息的演化方程一致显示: 动态熵密度随时间的变化率是由其在系统内部的态变量空间和传递过程的坐标空间的漂移、扩散和产生三者引起的, 而动态信息密度随时间的变化率则是由其在系统内部的态变量空间和传递过程的坐标空间的漂移、扩散和耗损三者引起的. 熵和信息己与系统的状态和运动规律联系在一起. 进而给出了两种熵产生率公式和信息耗损率公式, 两种漂移信息流和扩散信息流的表达式. 证明了两种信息耗损率(或总信息的减少率)等于其相应的熵产生率(或总熵的增加率). 得到了反映信息在传递过程中耗损特性的两种动态互信息公式和动态信道容量公式, 它们在信道长度与信号传递速度之比趋于零的极限情况下变为现有的静态互信息公式和静态信道容量公式. 所有这些新的理论公式和结果都是从动态信息演化方程和动态熵演化方程统一推导出的. 综述了上述思想、方法、主要结果和典型运用, 讨论了两种动态统计信息理论的同异.