布尔函数最优连续化函数的信息论分析

不同形式的连续化函数在将组合优化问题转化为非线性连续最优化问题时对信息提取能力、对非线性规划问题的求解性质有很大的影响.利用信息论原理给出了布尔函数的连续化函数相对熵漏的概念,指出了它与Kull backLeibler距离之间的关系,给出了布尔函数的连续化函数是最优连续化函数的充分必要条件.这些分析结果可以直接推广到一般离散问题的连续化分析之中.     

基于小波互信息的辐射源脉冲分类

针对电子支援系统中实时识别截获的雷达信号类型,提出了一种基于小波互信息准则的辐射源脉冲分类方法。该方法首先对辐射源脉冲信号进行小波变换,获得不同尺度、不同时移下时频面的小波特征集,然后利用Parzen窗密度估计方法对小波特征集的小波系数估计出其概率密度函数,从而计算出已知脉冲类和所有脉冲实现之间的互信息,用单个脉冲即可实现不同辐射源的脉冲分类。计算机仿真结果表明了方法的有效性。     

非线性盲源分离的多目标进化算法

针对在非线性混叠盲源分离中代价函数往往具有许多局部最优解,求解其全局最优解非常困难的问题。设计了多目标进化算法来求解代价函数的全局最优解,提出了非线性盲源分离的多目标进化算法。该多目标进化算法根据带权极小极大策略构造了一个同进化代数有关的变适应值函数,使种群中的容许解逐渐增多和保持个体的多样性,避免算法陷于局部最优。数值仿真表明算法是有效的。     

基于最大互信息的分层图像配准方法

基于互信息的图像配准算法具有精度高,鲁棒性强的特点,但是容易陷入局部极值,产生误匹配。本文在配准中采用归一化互信息(NMI)做价值函数,考虑了计算中的出界点和插值问题,将Powell算法与分层策略相结合来进行优化处理,并通过计算图像的灰度重心设置初始参数。实验结果验证了算法在匹配精度和速度上的有效性。     

一种基于最大互信息/进化计算混合结构的语音识别方法

传统的最大互信息训练中一般采用梯度方法，这就使得所得模型往往只是一个局部最优模型。文中将最大互信息（MMI）和演化计算（EC）相结合，引入到隐马尔柯夫模型(HMM）的训练中去。各模型集用个体表示，个体的适应值采用模型的最大互信息。这样借助于进化计算的全局搜索及种群的特点，得到了基于最大互信息估计的HMM模型的更优解。实验结果表明，用该方法训练所得的系统识别率高于传统的基于梯度的最大互信息估计方法训练所得的系统。     

基于网络文本的汉语多词表达抽取方法

多词表达(multiword expressions, MWEs)是自然语言中一类固定或半固定搭配的语言单元,特别在网络文本中,多词表达频繁出现,给分词和后续文本理解带来了巨大挑战,因此,面向网络文本提出了一种双层抽取策略来实现多词表达的识别。第一层次,利用基于左右熵联合增强互信息的算法来实现多词表达的初步抽取;第二层次,在第一层次获得的多词表达候选列表的基础上,利用SVM分类器,构建上下文和词向量特征,进行多词表达与非多词表达的分类,实现多词表达候选列表的进一步过滤。经过实验测试,在5 000条微博语料上,第一层次获得的多词表达的F值为84.92%,第二层次多词表达识别的F值为89.58%,相比于基线系统,性能有很大的提升。实验结果表明,双层抽取策略能够实现网络多词表达的有效抽取,并能有效改善分词结果。     

基于互信息-主成分分析-贝叶斯网络的化工过程故障诊断方法

为了解决复杂工业过程中存在变量众多、特征提取困难等问题,提出一种基于互信息(mutual information, MI)、主成分分析(principal component analysis, PCA)和贝叶斯网络(Bayesian network, BN)相结合的诊断方法。利用互信息与PCA在故障特征信息提取的优势,并结合BN在建模中强大的学习能力,建立互信息-主成分分析-贝叶斯网络(mutual information-PCA-Bayesian network, MPBN)故障诊断模型,最后根据联合树推理算法完成推理实验,并在田纳西-伊斯曼(Tennessee Eastman, TE)过程进行仿真验证。实验结果表明,该方法有效提高了化工过程诊断的准确效率和稳定性,尤其可在传感器存在证据缺失等不确定性环境因素情况下,依然具有一定的故障诊断效果。     

最大互信息系数的并行计算方法研究

针对最大互信息系数（Maximal Information Coefficient,MIC）近似算法在大规模数据场景下的计算时间复杂度高,计算时间增长快的问题,提出一种最大互信息系数并行计算（The Parallel Computing Maximal Information Coefficient,PCMIC）方法。分别在Spark和Spark-消息传递接口（Message Passing Interface,MPI）计算框架中,在不同的数据规模和不同的噪声水平下,利用PCMIC算法对十四种典型的相关关系做并行计算。另外在不同节点数的情况下,选择两种具有代表性的相关关系来测试PCMIC算法在两种计算框架中的性能。实验结果表明：（1）PCMIC算法在两种框架下的运算效果与原始MIC近似算法相比,同样具有普适性和均匀性,而且具有良好的可扩展性。（2）随着数据规模和节点数的增加,PCMIC算法在两种框架中运算的时间增长明显比MIC近似算法慢,而且在Spark-MPI框架下的并行加速比和效率略优于Spark。（3）Spark能够支持MPI任务的调度,为研究不同并行计算框架之间的融合奠定了一定的理论和应用基础。     

基于信道特征生成对抗网络的信道建模方法

基于生成对抗网络(generative adversarial networks, GAN)的数据生成特性,提出一种用于信道特征生成的GAN改进模型,即信道特征生成对抗网络(channel feature generative adversarial networks, CFGAN)。采用完全无监督学习信道特征方式,利用线性编码向量与生成信道之间的互信息关系和变分互信息最大化原理,实现编码向量与信道特征对应;采用实测室内电力线信道数据集训练CFGAN模型,训练完成的CFGAN能够学习到不同信道特征分布。仿真表明,在-80～-10 dB大动态衰减范围内,CFGAN可根据学习到的信道特征生成具有明显区别的4类信道模型,并且生成信道和实测信道的信道特征差异小于2%。     

EEG动力学模型中随机共振现象的仿真研究

脑电图(electroencephalogram,EEG)中随机共振现象的研究对于分析大脑系统的行为具有重要理论意义和应用价值.为了模拟大脑系统中检测信号的机制,提出使用信噪比、互相关系数、互信息率对比评价方法,对EEG动力学模型中随机共振现象进行了研究.实验结果表明,EEG动力学模型不但存在着周期随机共振现象,同时也存在着非周期随机共振现象.此研究为大脑系统中存在着随机共振现象的观点提供了一种新的证据.