基于choquet模糊积分的多神经网络融合模型的研究

为了进一步提高网络入侵检测系统的检测性能,提出了基于choquet模糊积分的多神经网络融合模型。它的基本思想是按照TCP／IP属性集的类别不同将TCP／IP数据集分成三个不同属性集的子数据集,在不同属性集上训练形成不同的子神经网络,然后用choquet模糊积分将多个子神经网络对TCP／IP数据的检测结果进行非线性融合形成最优判断。采用KDD99实验数据验证该模型的有效性,实验结果表明,该模型可以得到较好的融合效果。     

基于多尺度特征提取的图像语义分割

指出了基于深度学习的图像语义分割中,如何充分利用图像上下文信息以达到更好的分割效果,是当前图像语义分割研究的关键问题.为解决这一问题,提出了一种基于多尺度特征提取的图像语义分割方法,通过构建深层卷积神经网络,并利用不同尺度图像作为网络的输入来提取不同尺度图像的特征,最后经过特征融合得到了分割图.在公开数据集Stanford background dataset 8类数据集上进行训练和验证,实验结果达到了84.33%的准确率.实验表明:通过提取和融合多尺度特征,可以达到更好的图像语义分割效果.     

基于融合算法优化的卷积神经网络预测方法

由于不同气象条件会影响太阳辐照度的有效利用,这制约了太阳能的应用和发展.为了基于不同站点不同采样时刻的气象属性预测中尺度站的太阳能辐照度,依据传统卷积神经网络的框架,建立了一种新型的卷积神经网络结构幵用于太阳能辐照度预测.为了缓解新型网络由超参数选取不当导致预测性能差的问题,利用融合算法对新型网络的超参数进行优化.为了提高融合优化算法的全局搜索能力,引入帐篷映射对粒子的初始位置和初始速度进行混沌初始化.首先,导入训练集更新新型卷积神经网络框架,训练结束后导入验证集检验当前模型参数下新型卷积框架的性能.其次,混沌融合算法依据新型卷积神经框架在验证集上的预测性能更新模型的超参数.对更新模型的超参数多次检验,直至最优的预测模型在验证集上的性能趋于收敛.最后,辒出模型的最优超参数,建立太阳能辐照度预测模型.基于气象实测数据建立太阳能辐照度预测实验,引入其他两种预测方法进行对比仿真研究,幵尽可能复现了Eustaquio and Titericz团队的预测方法(GBRT)作为太阳能辐照度预测性能的评估基准.实验数据表明:混沌融合算法可以有效地提高新型卷积神经网络的预测性能,所提出预测方法的全年太阳能辐照度的均方误差较GBRT降低25.9%,绝对平均误差较GBRT降低了10.7%;全年太阳能辐照度平均误差率降低了18.4%,误差率小于0.1的样本量增加了21.1%.     

基于多尺度卷积的胶囊网络知识图谱嵌入模型

该文基于胶囊神经网络出色的维度信息挖掘能力,加入多尺度卷积以进一步增强其特征提取和交互能力,提出了基于多尺度卷积的胶囊网络知识图谱嵌入模型.首先,通过TransE算法训练得到实体和关系的初始化嵌入向量;其次,通过多尺度卷积生成不同的特征图,将得到的特征图进行特征融合,融合后得到的特征图重组为相对应的胶囊;最后,利用动态路由指定从第一层胶囊到第二层胶囊的连接,经过路由得到的第二层胶囊利用squash函数得到最终向量长度,该向量长度决定三元组的置信度.知识图谱链接预测任务的实验结果表明,较嵌入模型CapsE,本文提出的模型在WN18RR数据集上指标Hit@10提高1.8%,MRR提高1.4%,在FB15k-237数据集上Hit@10提高2.2%,MR提高4.8%.     

基于双层视觉及多尺度注意力融合的图像去雾

针对现有去雾算法缺乏对雾霾图像不同区域噪音浓度的关注以及远近景特征的区分问题,本文提出了一种新的生成对抗网络模型.模型中通过两个UNet3+网络实现全尺度的跳跃连接和深度监督,使用多尺度融合的方法结合不同尺度特征图中的高低级语义;而深度监督的加入可以更好地学习图像中的远近层次表示.同时在生成器结构中加入融合改进自注意力机制的多尺度金字塔特征融合模块,以便更好地保留特征图的多尺度结构信息,并且提高了对不同雾霾浓度区域的关注度.实验结果显示,在NTIRE 2020、NTIRE 2021、O-Haze数据集和Dense-Haze数据集上, 本文所提出的算法网络相比BPPNET等其他先进算法可以得到更好的视觉效果,在Dense-Haze数据集上,峰值信噪比和结构相似性指数分别达到24.82和0.769.     

一种道路裂缝检测的变尺度VS-UNet模型

为解决目前现有的图像分割算法存在检测精度低、对裂缝检测缺乏针对性等问题,采用多尺度特征融合方法,提出一种扩展LG Block模块Extend-LG Block,其由多个并行不同膨胀率的空洞卷积组成.通过参数可调节分支数量和空洞卷积膨胀率,从而改变其感受野大小,进而提取和融合不同尺度的裂缝特征.对比在深层使用多尺度特征融合模块的网络以及使用固定尺度结构进行多尺度特征融合的网络的优劣,提出一种变尺度结构的UNet模型VS-UNet,使用多个不同参数的Extend-LG Block替换UNet网络中的基本卷积块.该结构在网络浅层进行多尺度特征融合,多尺度特征融合模块提取的尺度随网络层加深逐渐减少.此结构在加强图像的细节特征提取能力的同时保持原有的抽象特征提取能力,还可避免网络参数的增加.在DeepCrack数据集以及CFD数据集上进行实验验证,结果表明,相较于其他两种结构和方法,提出的变尺度结构的网络在有更高检测精度的同时,在可视化实验对比上对各种大小的裂缝有更好的分割效果.最后与其他图像分割算法进行对比,各项指标与UNet相比均有一定程度提升,证明了网络改进的有效性.研究结果可为进一步提升道路裂缝检测效果提供参考.     

基于多层次特征融合的Transformer人脸识别方法

卷积神经网络中的卷积操作只能捕获局部信息,而Transformer能保留更多的空间信息且能建立图像的长距离连接.在视觉领域的应用中,Transformer缺乏灵活的图像尺寸及特征尺度适应能力,通过利用层级式网络增强不同尺度建模的灵活性,且引入多尺度特征融合模块丰富特征信息.本文提出了一种基于改进的Swin Transformer人脸模型——Swin Face模型.Swin Face以Swin Transformer为骨干网络,引入多层次特征融合模块,增强了模型对人脸的特征表达能力,并使用联合损失函数优化策略设计人脸识别分类器,实现人脸识别.实验结果表明,与多种人脸识别方法相比,Swin Face模型通过使用分级特征融合网络,在LFW、CALFW、AgeDB-30、CFP数据集上均取得最优的效果,验证了此模型具有良好的泛化性和鲁棒性.     

融合多尺度注意力和双向LSTM的行人重识别

将深度学习应用于行人重识别领域,嵌入多尺度注意力融合模块至神经网络中进行多尺度特征提取和表示,可有效提升注意力机制对深度学习网络的识别性能。提出了一种基于SE block的多尺度通道注意力融合模块,并结合ResNet50卷积神经网络提取特征;然后通过双向LSTM网络进一步提取特征序列上下文信息,在提高模型对图像重要特征的提取能力的同时,降低对图像冗余特征的关注度;最后使用级联难采样三元组损失函数和交叉熵损失函数共同训练网络模型,使样本能够在高维特征空间中实现聚类,进一步提升模型识别准确性。所提出算法在Market1501数据集和CUHK03数据集分别进行实验,并在同等条件下和其他注意力模块算法进行比较。为进一步验证各模块作用,对算法进行消融实验,以验证各模块的有效性,实验结果表明,所提出方法可有效应用于行人重识别     

基于边界检测和骨骼提取的显著性检测网络

目前一些方法通过多任务联合实现显著性检测，在一定程度上提升了检测精度，但仍存在误检和漏检问题，其原因在于各任务优化目标不同且特征域差异较大，导致网络对显著性、物体边界等特征辨识能力不足．基于此，借助边界检测和骨骼提取提出一种多任务辅助的显著性检测网络，其包括特征提取子网络、边界检测子网络、骨骼提取子网络以及显著性填充子网络．其中，特征提取子网络利用ResNet101预训练模型提取图像的多尺度特征；边界检测子网络选择前3层特征进行融合，可完整保留显著性目标的边界信息；骨骼提取子网络选择后两层特征进行融合，可准确定位显著性目标的中心位置；所提方法基于边界检测数据集和骨骼提取数据集分别对两个子网络进行训练，保留最好的边界检测模型和骨骼提取模型，作为预训练模型辅助显著性检测任务．为降低网络优化目标与特征域之间的差异，设计了显著性填充子网络将提取的边界特征和骨骼特征进行融合和非线性映射．在4种数据集上的实验结果表明，所提方法能有效恢复缺失的显著性区域，优于其他显著性目标检测方法．     

基于电力负荷曲线的设备识别方法

电力设备的负荷曲线随着时间而变化,其本质上是时间序列数据.为此提出了一种新的通过负荷曲线识别电力设备的方法,该方法在多个粒度划分出的负载曲线上使用卷积神经网络作为基分类器构造出一个集成学习器来提高分类精度.首先我们对原始数据进行不同粒度的划分,得到若干不同的新数据集.其次使用这些新的数据集训练不同的基学习器,并根据验证集上的精度得到不同基学习器的权重.将测试样本按照相同的粒度划分方式得到不同的测试数据集,使用不同的基分类器对这些测试数据集进行测试,得到对应的预测标签.最后对不同基分类器预测的标签进行加权,并选出权重最大的那个标签作为预测标签.在实际的电力负荷数据上将该模型与单个CNN模型进行对比,实验结果表明,该模型具有更高的设备识别精度.     

基于粒子群算法的多尺度反卷积特征融合的道路提取

研究基于传统FCN算法下的不同比例的多尺度特征融合对于复杂场景下道路提取准确度的提高.针对复杂的航拍道路场景,设计了针对于农田环境下的FROBIT农田道路数据集,并使用全卷积神经网络（FCN）对FROBIT农田道路数据集和Massachusetts城市道路数据集进行道路提取工作.本文基于传统的FCN的网络,对其反卷积方式进行改进,采用粒子群算法（PSO）设计了不同比例的多尺度特征融合.通过将本文提出的Multi-Scale FCN网络与传统的FCN神经网络在FROBIT数据集和Massachusetts道路数据集上进行对比实验,结果表明Multi-Scale FCN网络相比于传统的FCN神经网络在提取精度上得到了提高.      

多尺度区域特征的细粒度分类算法研究

为了避免复杂背景对精细目标分类的影响,充分利用卷积神经网络提取的目标全局和局部信息进行细粒度任务的研究,提出了一种多尺度区域特征的细粒度目标检测与分类算法.该方法先使用FASTER-RCNN框架训练3个尺度区域的卷积模型进行多尺度目标区域定位,对定位的结果进行包围盒约束和海伦约束以优化提高定位的精确度,然后将提取多个尺度区域的特征进行组合,并用支持向量机训练细粒度分类器.在Caltech-UCSD鸟类数据集和Comp Cars车型数据集上进行实验测试.实验结果表明该算法在Caltech-UCSD鸟类数据集的分类正确率达到82. 8%,比没有使用多尺度区域特征的分类算法提高了7. 5%,比基于部件的分类方法提高了8. 9%;在Comp Cars车型数据集的分类正确率达到93. 5%,比没有使用多尺度区域特征的分类算法提高了8. 3%,比最优的Google Net精细目标分类算法提高了2. 3%,验证了该算法的有效性.     

基于Adam算法BP神经网络的 矿井环境瓦斯浓度预测模型

为了解决现有矿井环境瓦斯浓度预测方法无法处理大数据量、适应性差、误差较大、易陷入局部最优等问题,提出一种基于Adam算法的改进型BP（Back Propagation）神经网络模型,模型适用于矿井多环境参数下,对某区域内环境瓦斯浓度进行预测.对监测监控系统采集到的真实数据进行归一化处理并形成数据集,通过将Adam算法与BP网络模型进行有效结合形成新的网络模型.运用训练集对模型进行训练及调优后,迭代次数在1 200次后损失率趋于平稳,验证集预测的结果整体平均误差率为1.258%,结果表明:该优化模型提高了网络训练速度,且避免了传统BP模型容易陷入局部最小的缺点,同时降低了预测的相对误差.     

基于卷积神经网络的灾难场景图像分类

为了对灾难场景图像进行快速分析和识别,提出了一种基于多分辨率卷积神经网络和残差注意力机制(attention module)相结合的图像分类模型.首先,对灾难场景数据集进行预处理,在相同类型的条件下将其随机划分为训练集和测试集.基于改进的卷积神经网络(convolutional neural network,CNN),提取训练集的图像特征.使用训练集图片的特征进行训练,并且在测试集图片上实现分类测试.选取DenseNet、Xception和MobileNetV2三种模型,以灾难场景数据集(Disaster_Data_Scenes)为数据集进行实验验证.结果表明:改进的Xception和MobileNetV2网络在灾难场景数据集上进行的图像分类实验测试,比原网络精度分别提升了4.56％和3.04％.其中改进的DenseNet网络比原网络模型精度分别提升9.13％、17.88％和10.27％.可见改进的卷积神经网络模型的分类精度得到有效提高.     

融合多尺度特征与多分支预测的多操作检测网络

面对不断进步的图像编辑技术，发展相应的图像取证技术显得尤为重要.针对现有图像篡改检测技术中存在的可检测操作类型单一、鲁棒性不强、篡改区域定位不足等问题，提出一种基于卷积神经网络的多操作图像篡改检测方案.在该网络中，通过构造基于残差块的卷积流以提取操作特征.然后，设计一个多尺度特征融合模块，实现不同尺寸的操作特征融合.最后，将融合后的操作特征输入多分支预测模块进行篡改类型预测与定位，得到多操作检测结果.本文制作了多操作图像篡改数据集，对提出的网络模型进行训练和测试.实验结果表明，本文方案与主流的目标检测网络相比，能够更准确地对篡改区域进行定位，参数量更少，且对常见的图像后处理具有更好的鲁棒性.     

基于轻量化的高分辨率鸟群识别深度学习网络

针对机场低空区域鸟类对飞行器起飞和降落带来的安全问题,提出一种轻量型高分辨率的鸟群场景识别网络,用于实现鸟群的计数和定位．该网络以高分辨率网络为基础框架,使用非对称卷积和Ghost模块对网络进行轻量化,并在网络的第四阶段引入联合金字塔上采样模块,提升模型对多尺度特征的融合能力．进一步提出联合使用负样本抑制损失函数,用于监督网络的训练过程,使网络更加关注于鸟类目标．将所提出的模型在鸟群数据集上进行实验,实验结果表明：本方法可以有效对鸟群进行计数和定位,并在模型性能和模型参数量上达到了平衡．为进一步验证所提出方法的有效性,在两个人群数据集(Shanghai Tech,UCF-QNRF)上进行训练与测试,证明其具有较高的准确性和鲁棒性．     

多尺度卷积核U-Net模型的视网膜血管分割方法

针对病变视网膜血管结构的计算机辅助诊断问题,提出了一种多尺度卷积核U-Net模型的视网膜血管分割方法.在U-Net模型基础上设计了融合Inception模块和最大索引值上采样方法的多尺度卷积神经网络结构.在网络训练阶段,采取旋转、镜像等操作进行数据集扩充,运用CLAHE算法进行图像预处理;训练后得到的双通道特征图,进行Softmax归一化;最后通过改进的代价损失函数对归一化结果迭代优化,得到完整的视网膜血管分割模型.实验结果表明,所提方法在DRIVE数据集上分割的准确率达到0.9694,灵敏性达到0.7762,特异性达到0.9835,比U-Net模型具有更优的分割效果和泛化能力,与其他现存方法相比具有一定的竞争力.     

多尺度生成对抗网络的图像超分辨率算法

基于神经网络的图像超分辨率方法往往存在重建图像纹理结构模糊、缺失高频信息的问题。为了解决该问题,在SRGAN的基础上提出一种多尺度并联学习的生成对抗网络结构,其中生成模型由两个不同尺度的残差网络块组成,首先对提取的低分辨率图像通过两个子网络的多尺度特征学习,然后使用融合网络进行残差融合,融合不同尺度高频信息,最终生成高分辨图像。在Set5、Set14、BSD100基准数据集以及SpaceNet卫星图像数据集上的实验结果证明了该算法在恢复低分辨率图像的细节纹理信息具有良好效果。     

基于多尺度特征融合和多头自注意力机制的非侵入式负荷监测

针对目前负荷分解模型的深层负荷特征提取不充分,分解精度低以及训练成本高等问题,提出了一种多尺度特征融合模型。模型由负荷分解子网络及负荷识别子网络两部分构成,两个子网络均利用一维卷积和批量归一化等组成的卷积块进行负荷特征初提取,然后采用金字塔池化模块从多个维度精确提取深层负荷特征信息,并与特征初提取部分进行融合。金字塔池化模块使网络参数大大减少且降低了训练成本。同时与以往模型中的注意力机制不同的是,网络引入多头自注意力机制,每个注意力关注负荷特征的不同部分,从多个角度实现对重要负荷特征的筛选,进一步提高分解性能。最后,在UK-DALE和REDD数据集上进行实验,结果表明所提模型与四个基准模型相比,无论是负荷分解性能还是电器运行状态识别能力都有明显提升。     

融合对比学习的成语完形填空算法

成语完形填空是机器阅读理解（MRC）的一类子任务，旨在测试模型对中文文本中成语的理解和应用能力.针对现有的成语完形填空算法忽视了成语的嵌入向量会出现表征崩溃的现象，并且模型在域外数据上的准确率低，泛化能力较差的问题，本文提出了NeZha CLofTN.该算法由嵌入层、融合编码层、图注意力子网络和预测层等4部分组成.其中融合编码层中利用对比学习迫使网络改变特征提取的方式，避免了网络输出恒定的嵌入向量，从而预防了表征的崩溃；预测层综合多个近义词图子网络的输出，以获得比其中单独的子网络更好的预测性能，增强模型的泛化能力.NeZha ClofTN在ChID Official和ChID Competition数据集上进行了实验验证，准确率分别达到80.3%和85.3%，并通过消融实验证明了各个模块的有效性.