基于梯度加权类激活热力图的卷积神经网络故障诊断模型鲁棒性分析

深度学习近年来在故障诊断领域受到广泛应用,但基于深度学习的故障诊断模型缺乏工程上的物理解释性,难以保证其故障诊断结果的稳定性。以轴承为例,建立了以小波时频图像为故障诊断依据的卷积神经网络模型(convolutional neural network, CNN),提出了一种基于梯度加权类激活热力图(gradient-weighted class activation map, Grad-CAM)的网络模型鲁棒性分析方法,并利用美国凯斯西储大学(Case Western Reserve University, CWRU)轴承数据集进行验证。首先,将故障直径轴承数据以不同方式混合并训练大、小多个模型。其次,利用Grad-CAM方法,建立时频区域与故障模式之间的联系。最后,利用其他工况下的轴承故障数据,以及含噪数据进行测试,并根据结果结合模型最注重的时频区域进行分析。结果表明,基于深度学习的轴承故障诊断模型在参数较少时更加注重低频区域,并能使其具有更好的鲁棒性。     

基于词-标签概率的多标签文本分类研究

针对多标签文本分类任务中如何有效地提取文本特征和获取标签之间潜在的相关性问题,提出一种CNN(convolutional neural networks)结合Bi-LSTM (bi-directional long short-term memory)的模型.首先,通过CNN网络和最大池化提取文本的特征;然后,利用训练的Labeled-LDA(labeled latent dirichlet allocation)模型获取所有词与标签之间的词-标签概率信息;接着,使用Bi-LSTM网络和CNN网络提取当前预测文本中每个词的词-标签信息特征;最后,结合提取的文本特征,预测与当前文本相关联的标签集.实验结果表明,使用词-标签概率获取文本中词与标签之间的相关性信息,能够有效提升模型的F1值.     

增强型注意力网络点击通过率预估方法

针对以往模型在对点击通过率(click-through rate,CTR)进行建模预测时,存在着特征重要性学习不足、特征交互低效等问题,提出了一种增强型注意力网络预估模型,用于动态学习特征重要性和特征交互信息,模型主要由注意力层、双线性交互层和全连接神经网络层构成。注意力层的多尺度多头自注意力机制通过设置不同尺寸子空间增强特征重要性学习能力,在得到特征重要性后,进一步采用张量积双线性交互学习特征交互信息。通过对注意力的子空间尺寸大小、张量积交互形式、神经网络层数和节点个数等进行定量分析,确定模型的最佳参数。实验证明,该模型相比已有模型拥有更好的预测能力。     

利用早停可微架构搜索的三维点云模型分类

针对现有三维点云分类网络采用人工设计费时费力的问题,提出早停可微架构搜索(early-stopping differentiable architecture search,ES-DARTS)算法。利用从人工设计网络架构中提取到的先验知识,预定义一个包含高效候选操作的搜索空间,可快速搜索出适用于三维模型分类任务的高性能网络模型;通过追踪网络搜索阶段各候选操作的权重变化,找出跳跃连接操作在双重优化过程中发挥不公平竞争作用的临界点并在此处停止搜索,以保证各候选操作之间的稳定性,解决DARTS算法搜索过程中易出现性能崩溃的问题。提出的算法在ModelNet40数据集上达到了93.2%的识别准确率,比当前人工设计的主流网络具有更高的识别准确率。     

基于预训练模型和多视角循环神经网络的电力文本匹配模型

针对传统方法未能考虑词向量的动态性及句子间交互不充分等问题,提出基于BERT预训练模型及多视角循环神经网络的文本匹配模型。通过BERT-whitening方法对BERT输出的句向量进行线性变换优化,并利用多视角循环神经网络将两句子不同位置的BERT动态词向量进行双向交互计算;将句向量与词粒度交互向量进行融合后计算结果。实验结果表明,提出的模型相较于对比模型有明显性能提升,实用性良好。     

离散时间细胞神经网络中的分岔和混沌

研究了离散时间细胞神经网络（ＤＴＣＮＮ）中的分岔和混沌,ＤＴＣＮＮ中的细胞与连续时间ＣＮＮ中的细胞相似,具有局部耦合,其输出方程是罗切斯蒂方程。分别讨论了２种结构（有边界和无边界）的ＤＴＣＮＮ的混沌特性,ＤＴＣＮＮ的混沌与全局耦合系统一的混沌相似,但由于其局部耦合的结构,其混沌与后者有所不同。提出了有关分岔与混沌的一些有兴趣的理论问题和实际问题．     

正规BCI-代数的“拟-广结并”构造

本文进一步讨论BCI—代数的拟结合部分的特征性质,引入正规BCI—代数的概念。同时给出一种构造正规BCI—代数的“拟—广结合并”方法。     

神经网络校正的EKF在高超声速目标跟踪中的应用

针对临近空间高超声速目标高度非线性、强耦合、高机动、时变参数、和独特气动特性等特点,综合运用军事运筹学理论与方法、系统建模技术、神经网络技术以及计算机仿真等,提出基于神经网络校正的扩展卡尔曼滤波(EKF)算法,并在高超声速目标跟踪中进行了应用研究。采取神经网络的学习能力来克服卡尔曼滤波发散问题,通过卡尔曼滤波后加一级误差处理环节使滤波收敛。仿真结果表明:该算法在目标发生较大机动时仍能保持较高的跟踪精度。     

采用HK模型的防空反导作战网络建模分析

采用HK网络模型对防空反导作战网络进行建模,对网络度分布、集群系数、平均距离的统计特性进行分析。将网络模型与典型树状结构的防空反导网络和基于BA无标度模型的网络进行比较,表明基于HK模型的防空反导作战网络具有较好的集群系数和无标度特性,同时表明改变TF连接概率进行防空反导网络设计具有更好的灵活性。     

无线多媒体传感器网络自适应拥塞控制算法

针对无线多媒体传感器网络(WMSN)中多对一通信时产生的网络拥塞问题,提出了一种自适应的WSMN网络拥塞控制算法ACCP。通过结合速率控制和资源调度,并采用分簇的网络结构,根据簇首及簇内的拥塞指标,来分别启动对应的拥塞控制机制:当簇首发生短时间拥塞时,就启动属于资源调度的网络内存储管理机制,来暂时减缓网络内过多数据包;但当簇中的存储节点也无法容纳过量的数据包时,速率控制就启动,让流量减缓下来,并且只调整数据实时性要求较低的数据流的速率,以达到控制流量、减缓甚至消除网络拥塞的目的。仿真结果显示:ACCP在传送速率不同下,可以比InS、HCCP更有效的控制网络拥塞的情况,而在比较缓存容量不同的情况下,虽然ACCP只比HCCP能够稍微改善网络拥塞的情况,但却能够大幅度改善InS的数据包丢失率。