基于CNN-LG模型的窃电行为检测方法研究

针对当前电网单一学习器窃电检测方法准确率低、实时性差且无特征提取的问 题,提出一种基于卷积神经网络轻梯度提升机（CNN-LG）模型的窃电行为检测方法. 通过卷积 神经网络（CNN）提取用户用电数据电力特征,将提取特征输入以决策树为基学习器的轻梯度 提升机（LG）分类器对数据进行训练,据此建立基于卷积神经网络轻梯度提升机模型的窃电行 为检测方法 . 采用基于卷积神经网络轻梯度提升机模型对国家电网和爱尔兰智能能源径 （ISET）数据集分别进行窃电行为检测 . 实验结果表明,本文提出方法可快速准确实现电网中 各类窃电行为检测,相比于现有检测方法具有更高准确度、更优泛化性能和实时性.     

拆分降尺度卷积神经网络入侵检测方法

针对卷积神经网络(convolutional neural network, CNN)模型待训参数量过大、多层网络导致特征和梯度消失等问题,提出一种基于拆分层和Inception-ResNet的卷积神经网络模型用于入侵检测。首先将网络流量数据转化为具有空间相关性的图像以适用于卷积神经网络的输入;然后使用Inception-ResNet卷积层增加网络深度,减少模型训练参数数量以及消除梯度消失问题,拆分层在降低图像尺度时基本保持图像原有分类特征;最后采用NSL-KDD数据集对改进模型进行训练和测试。测试结果表明：改进模型相对于Inception-ResNet模型具有更高的检测准确率和少数类样本召回率以及更好的训练时间性能。     

基于深度学习SCNet的钢筋混凝土锈蚀裂缝识别

为提高钢筋混凝土锈蚀裂缝检测分类的效率和精度，提出了一种基于深度学习卷 积神经网络（Convolutional Neural Network，CNN）的钢筋混凝土锈蚀裂缝识别模型 SCNet（Steel Corrosion Net）. 首先通过原始数据采集和数据增强构建了39 000张图片的裂缝数据集，然后利 用 TensorFlow 学习框架和 Python构建神经网络模型并进行训练测试，根据模型的训练精度和 测试精度进行网络结构和网络参数的优化，最终将 SCNet识别模型与两种传统检测方法进行 对比 . 结果表明：文中所建立的 SCNet三分类神经网络模型达到了 96.8%的分类准确率，可以 有效识别分类钢筋混凝土锈蚀裂缝，并且具有较高的准确率和可测性；在图像数据有阴影、扭 曲等噪声干扰的条件下，两种传统检测方法已不能达到理想的分类效果，SCNet模型仍能表现 出相对稳定的分类性能.     

目标检测模型的优化训练方法研究

针对基于深度学习的目标检测模型如何能更高效地训练问题,探究数据增强、类标签平滑、学习率优化和随机尺度训练四种优化训练方法对于检测性能的提升程度,并将其用于单阶段检测模型YOLOv3和双阶段检测模型Faster R-CNN。在PASCAL VOC数据集上进行训练测试,证明这些方法都能在一定程度上提高检测准确率,并阐释了各种方法提升准确率的原因。在MS COCO数据集上实验证明这些优化训练方法的泛化能力,能够更高效地训练目标检测模型。     

基于深度学习的政务表格单元格结构检测

当前政务领域中涵盖大量复杂异构表格,其结构检测困难,识别准确率较低并且单元格边缘拟合效果较差.针对该问题,在掩膜区域卷积神经网络（Mask R-CNN）的基础上,以政务表格单元格结构为对象,提出一种改进的政务表格单元格结构检测方法 .首先,在Mask R-CNN算法的主干网络及特征金字塔中加入通道注意力机制,增强有效特征通道权重;然后,对分割产生的掩膜结果使用基于规则和形态学方法进行优化以提升单元格分割边缘拟合度.实验结果表明：改进后的表格单元格结构检测模型在此数据集G-Tab及公开表格数据集ICDAR2013上的精确率和召回率都有明显提升,能够验证改进模型的有效性.     

基于模糊神经网络集成的入侵检测模型

日益严峻的网络安全形势和网络协议本身的缺陷,使传统的防火墙防御的方式无法胜任。为提高对网络入侵防御能力,提出了模糊神经网络集成的入侵检测模型：首先抓取网络中的数据流,使用模糊数学的方法对数据记录入侵特征预处理。然后用集成的模糊神经网络模块接收预处理模块导入的训练数据和测试数据,通过反复训练学习,把各子树中节点的权值收敛到确定值。训练完成后,模型用于检测网络中的数据。响应模块接收模糊神经网络模块处理结果做出相应的响应。实验使用KDDCUP99网络入侵检测数据集对模型进行评测,并与单一神经网络模型相比较。结果表明模糊神经网络集成的方法检测结果比较稳定,在整体上比单一神经网络的误报率、漏报率和错报率有所降低,准确率和数据集泛化能力明显提高。     

基于特征类内紧凑性的不平衡医学图像分类方法

近些年,基于深度学习的算法和模型在各种图像分析任务中都取得了显著的成功,与常见的自然图像相比,医学图像数据集依然面临高度不平衡的问题,不平衡数据会导致特征空间里的决策边缘倾向样本多的类别,导致分类效果的下降.为了解决该问题,提出一种基于卷积神经网络考虑特征类内紧凑性的不平衡医学图像分类方法（Z-Score Compactness-based Convolutional Neural Network,ZC3NC）.首先,从一个卷积神经网络的最后一层卷积层提取训练集样本与测试集样本的特征图,随后引入一个新的Z分数来度量测试集数据的特征图相对训练集每个类在特征空间上的偏离度,偏离度的度量基于类内的紧凑度,其主要关注样本的分布特性,对各类样本数量的不平衡性不敏感.最终,根据计算的偏离度,对测试集的数据进行分类.在DermaMNIST数据集上的实验表明,在不对数据和神经网络模型做任何额外增强的情况下,该方法的平衡准确率比原卷积神经网络模型平均提高11.15%,最多提高14.08%,证明提出的分类方法能有效地提高多种卷积神经网络对不平衡医学图像数据的分类性能.此外,和最先进的不平衡分类方法 Und...     

基于多层神经网络的智能家居入侵检测方法

依托物联网技术的智能家居面临多重信息安全风险,现有智能家居入侵检测方案存在难以处理大量高维度数据、检测率低、误检率高、依赖经验确定网络层数等问题。提出一种融合深度学习与模糊神经网络的多层神经网络入侵检测方法;基于深度学习完成数据特征的学习,将高维数据映射为低维数据;基于网络重构误差训练并优化确定网络深度。仿真测试结果表明,该方案可有效提高对攻击行为的检测准确率和检测效率;针对远程非法访问的检测率可达到94%,对拒绝服务攻击的检测准确率可达96%,对网络中新型攻击的检测率超过60%。     

基于EfficientDet的高效目标检测算法研究

针对神经网络训练时收敛慢和模型泛化能力差的问题,文章首先分析传统的和基于深度学习的目标检测算法各自的优势和不足,接着概括梯度下降法各种变体优化算法和现阶段主流数据增强方法对应的优缺点,最后对训练时的优化问题提出组合使用AdaMod和AdamW的训练优化方案,提高了训练网络收敛效率。针对深度神经网络性能表现比较依赖于数据集从而导致泛化能力差的问题,该文使用基于线性插值的数据增强方案,对类别不同的样本之间的领域关系进行建模,增强了神经网络的健壮性。在VOC07+12数据集上实验结果表明EfficientDet-d0检测算法模型参数量、浮点计算量、精度和泛化性能比较均衡,泛化能力得到增强,训练过程收敛更快,验证了该文提出的训练优化方案和使用的数据增强方法是有效的。     

基于预训练模型和图神经网络的藏文文本分类研究

在少数民族语言信息处理领域，由于文本分类标注数据的稀缺，相关研究工作进展缓慢.为了充分利用有限的标注数据，更有效地挖掘出文本之间的关系，本文对藏文提出一种基于预训练模型和图卷积神经网络的长文本分类方法CINO-GCN.首先利用在实验数据集上经过微调的少数民族多语言预训练模型(Chinese Minority Pretrained Language Model, CINO)得到藏文长文本的初始文档向量和藏文音节向量.然后根据整个数据集范围的音节共现关系与音节和文档间的TF-IDF值来对藏文文本图进行建模.最后将文本图和结点特征一同输入至图卷积神经网络(graph convolutional networks, GCN)层，得到的文档表示经过Softmax得到分类结果.将该方法在公开的TNCC藏文新闻文本分类数据集上与当前几种主流的深度学习模型进行了多组对比实验，分类准确率达到73.51%,远优于其他基线模型；同时设计了消融实验验证模型各部分对分类结果的增益.实验结果表明，该文提出的模型能够结合预训练词向量和图神经网络的优势，显著提高藏文文本分类的准确率.     

基于优化DeepLabv3+的混凝土梁裂缝分割及特征量化

目前基于深度神经网络的裂缝分割模型存在着训练参数多、裂缝边缘分割粗糙、分割精度不足、缺少深度特征语义信息等问题。为解决以上问题,对分割性能较好的DeepLabv3+模型进行研究,嵌入Non-local注意力机制,并改进了主干网络ResNet101得到优化模型DeepLabv3+(N-S),最后基于优化模型的输出并使用裂缝骨架提取的方法来量化裂缝特征参数。使用的数据集为自制的混凝土梁裂缝图像数据集,并对优化前后模型作对比实验,分析了模型在各项性能上优化的有效性,并使用实测数据来验证评估裂缝各项特征参数量化方法。实验结果表明,DeepLabv3+(N-S)网络在数据集上的平均像素准确率(mean pixel accuracy, mPA)、平均交并比(mean intersection over union, mIoU)分别达到了88.86%、82.04%,较于原模型分别提高2.21%、2.54%,裂缝分割效果优于原模型,且裂缝样本各项特征参数量化的平均误差为+8.7%,低于原模型,可满足工程上的检测精度需求。     

融合残差网络的CR-BiGRU入侵检测模型

针对当前网络攻击的复杂性和多样性,传统模型提取流量特征不足且准确率较低的问题,提出一种融合残差网络改进的CR-BiGRU混合模型的网络入侵检测方法.首先将数据集进行归一化以及独热编码处理,然后利用基于残差网络的卷积神经网络提取空间特征,最后使用双向门控神经网络提取时间特征,完成模型的训练并实现异常网络的入侵检测.为表明模型的适用性,基于数据集NSL-KDD和UNSW-NB15进行对比分析实验,结果表明,该方法基于上述数据集准确率分别达99.40%和83.79%,明显优于经典网络入侵检测算法,能有效提升检测网络入侵的精度,从而更好保证网络数据的通信安全.     

CNN海况等级分类方法的性能

采用经典的LeNet网络对实测IPIX雷达数据、SPPR-50雷达数据、一型试验雷达数据通过多种组合方式进行交叉实验验证，分析训练集和测试集采用相同类型实测数据、不同类型实测数据时对分类准确率的影响，从而分析网络对雷达信号层数据处理的泛化能力。实验结果表明，不同类型的实测数据对分类准确率影响较为明显，并且当数据具有一定的相似性时分类效果显著。因此，在样本数据集不足时，可考虑通过迁移学习来加快并优化模型的学习效率，提高神经网络模型分类的准确率。     

基于深度学习的网络攻击检测

针对现有的网络攻击检测方法检测精度不高的问题,提出一种基于并行卷积神经网络的在线网络安全攻击检测方法.该并行的深度卷积神经网络一共包含2个深度卷积神经网络用于提取特征:CNN1和CNN2,然后通过全连接层两个特征提取层,并通过软最大化操作将网络攻击的检测转换为攻击的分类模型.采用KDD Cup99作为仿真数据集,并采用训练数据来对深度模型进行训练,当模型的训练误差小于一定阈值时,采用测试数据进行测试.结果表明:将本文所提方法与文献[8]以及文献[9]所提的卷积神经网络进行比较,其结果表明了所提方法不仅具有较高的检测准确率而且具有较低的误报率上.     

基于FPGA并行加速的脉冲神经网络在线学习硬件结构的设计与实现

当前，基于数字电路的脉冲神经网络硬件设计，在学习功能方面的突触并行性不高，导致硬件整体延时较大，在一定程度上限制了脉冲神经网络模型在线学习的速度。针对上述问题，文中提出了一种基于FPGA并行加速的高效脉冲神经网络在线学习硬件结构，通过神经元和突触的双并行设计对模型的训练与推理过程进行加速。首先，设计具有并行脉冲传递功能和并行脉冲时间依赖可塑性学习功能的突触结构；然后，搭建输入编码层和赢家通吃结构的学习层，并优化赢家通吃网络的侧向抑制的实现，形成规模为784～400的脉冲神经网络模型。实验结果表明：在MNIST数据集上，使用该硬件结构的脉冲神经网络模型训练一幅图像需要的时间为1.61 ms、能耗约为3.18 mJ，推理一幅图像需要的时间为1.19 ms、能耗约为2.37 mJ，识别MNIST测试集样本的准确率可达87.51%；在文中设计的硬件框架下，突触并行结构能使训练速度提升38%以上，硬件能耗降低约24.1%，有助于促进边缘智能计算设备及技术的发展。     

基于深度卷积神经网络的肺结节检测与识别

应用卷积神经网络将肺结节从含有背景、噪声的胸腔区域里检测并识别出来。首先,对图像进行预处理,获得肺实质图像。然后,应用Faster R-CNN多特征融合算法检测肺结节候选区域,再利用多角度特征融合方法滤除假阳性结节。接着,通过数据增强法、残差学习法、优化初始参数等对卷积神经网络的性能进行优化。最后,应用迁移学习方法对数据集进行训练,得出最终的检测结果。抽取LIDC数据集中含有肺结节图像数据,检测并识别肺结节的准确率达到98. 1%。实验结果表明,该算法优于其他3类算法,实现了肺结节的精确检测和识别,在保证检测和识别出正确结节的前提下,降低了过拟合率及训练时间,提高了算法效率,研究成果为早期肺癌的诊断提供参考依据。     

基于双向LSTM神经网络可穿戴跌倒检测研究

针对老年人跌倒后不能得到及时救助带来的伤害，研究跌倒检测算法和及时告警，可以减轻跌倒给老年人带来的严重危害和后果。为了提高跌倒检测精确度和实时性，本文提出基于双向长短期记忆神经网络的可穿戴跌倒检测算法，该算法可以对输入的数据(取自惯性传感器)自动提取跌倒行为内部更深层的数据特征，实现数据从预处理到检测结果的过程处理。算法模型通过神经网络提取加速度传感器的特征向量，并利用双向长短期记忆神经网络进行跌倒检测。通过跌倒公开数据集SisFall验证算法模型，结果表明该算法在SisFall实验数据集上具备较高的检测精度，满足准实时检测要求，具有较好的实用性和较强的泛化能力。     

基于双向LSTM神经网络可穿戴跌倒检测研究

针对老年人跌倒后不能得到及时救助带来的伤害，研究跌倒检测算法和及时告警，可以减轻跌倒给老年人带来的严重危害和后果。为了提高跌倒检测精确度和实时性，本文提出基于双向长短期记忆神经网络的可穿戴跌倒检测算法，该算法可以对输入的数据(取自惯性传感器)自动提取跌倒行为内部更深层的数据特征，实现数据从预处理到检测结果的过程处理。算法模型通过神经网络提取加速度传感器的特征向量，并利用双向长短期记忆神经网络进行跌倒检测。通过跌倒公开数据集SisFall验证算法模型，结果表明该算法在SisFall实验数据集上具备较高的检测精度，满足准实时检测要求，具有较好的实用性和较强的泛化能力。     

CWGAN-DNN：一种条件Wasserstein生成对抗网络入侵检测方法

针对现有的基于机器学习的入侵检测系统对类不平衡数据检测准确率低的问题,提出一种基于条件Wasserstein生成对抗网络(CWGAN)和深度神经网络(DNN)的入侵检测(CWGAN-DNN).CWGAN-DN N通过生成样本来改善数据集的类不平衡问题,提升对少数类和未知类的检测效率.首先,通过变分高斯混合模型(VGM)对原始数据中的连续特征进行处理,将连续特征的高斯混合分布进行分解;然后利用CWGAN学习预处理后数据的分布并生成新的少数类数据样本、平衡训练数据集;最后,利用平衡训练集对DNN进行训练,将训练得到的DNN用于入侵检测.在NSL-KDD数据集上进行的实验结果表明:利用CWGAN生成的数据进行训练,DNN的分类准确率和F1分数提升了5％,AUC下降了2％;与其他类均衡方法相比,CWGAN-DNN的准确率至少提升了3％、F1分数和AUC提升了1％.     

胶囊神经网络在期刊文本分类中的应用

通过引入BERT(Bidirectional Encoder Representation from Transformers)词向量和胶囊神经网络架构,建立期刊文本自动分类模型.选取三个不同规模的Web of Science数据集,以期刊领域的文本分类作为研究任务.在分析文本的基础上,对论文摘要进行多种深度学习算法训练.利用向量化的胶囊神经元和动态路由机制获取文本的局部-整体关系,最终实现更加精准的文本分类模型.实验结果表明,在该数据集上,基于胶囊神经网络的文本分类器的准确率、精准率、召回率和F1值等多项指标均领先于其他基线算法,同时动态路由的迭代次数需要综合考虑模型的损失与训练速度.