基于水印神经网络的可溯源DNN模型保护方法

针对深度神经网络（deep neural networks, DNN）模型安全与版权认证的问题,提出了一种多用户溯源的水印神经网络模型,通过密钥驱动生成水印图像,将其不可见地嵌入待保护目标模型的输出图像中,实现DNN模型的知识产权保护和版权追踪。在待保护的DNN模型中添加一种编解码器网络实现水印的嵌入,并使用双流篡改检测网络作为判别器,解决了模型的输出图像中可能出现的水印残留问题,提升了水印嵌入过程的不可感知性,减少了对DNN模型性能的影响,增强了安全性。此外,通过本文设计的双阶段训练法针对不同用户分发不同的含水印模型,当发生版权纠纷时,使用另一个残差网络可以从输出图像中提取水印图像。实验证明,本方法分发含水印的模型效率较高,并且即使对多个用户分发了嵌入相似水印图像的DNN模型,水印神经网络依然可以成功对模型进行溯源。     

LSTM网络在地铁隧道沉降预测中的应用研究

为提高地铁隧道沉降预测的精度,研究长短记忆网络(LSTM网络)在地铁隧道沉降预测中的作用。分别利用反向神经网络(BP神经网络)和LSTM网络建立模型,结合2组地铁隧道实测数据,对模型的预测精度进行了比较和分析,试验结果表明LSTM网络优于BP神经网络并有较高的预测精度,与BP神经网络模型相比LSTM网络模型预测误差降低幅度可达35%,相对误差降低幅度可达42%,均方根误差值降低幅度为55%,预测的结果更接近实际测量结果。研究表明将深度学习的方法之一LSTM网络引入到地铁隧道沉降监测中,提高了预测精度。     

LSTM神经网络模型在GPS变形监测中的应用研究

为提高GPS变形监测在工程应用中的精确度,研究LSTM神经网络在变形监测中的作用。分别利用建立的GM(1,1)模型和LSTM神经网络模型对GPS变形监测工程案例进行应用分析,与GM(1,1)模型相比LSTM神经网络模型预测误差降低幅度可达58%,相对误差降低幅度可达62%,RMSE值降低幅度为66%,结果说明LSTM神经网络模型较GM(1,1)模型有更高的预测精确度,预测结果更接近实际测量结果,深度学习的方法之一LSTM神经网络模型在GPS变形监测中有很高的应用价值。     

一种融合双向LSTM和CNN的混合情感分析模型

针对现有文本情感分析方法实时性不强、难以应用到大规模文本、不能同时提取文本上下文信息和局部语义特征等问题，提出一种融合双向长短期记忆（LSTM）和卷积神经网络（CNN）的混合情感分析模型通过使用双向LSTM和CNN模型对由word2vec编码得到的文本词向量进行训练，运用注意力机制将双向LSTM模型学习到的特征作用于CNN模型上，并进行特征加权，最后将双向LSTM模型和CNN模型得到的结果进行拼接，由分类器得到相应的情感分类结果在NLPCC SCDL数据集上进行实验，结果表明所提出的融合双向LSTM和CNN模型在精度、召回、f1值和准确度方面优于两个单独的模型     

一类基于PCA神经网络的分类器在异常检测中应用

目前,入侵检测技术（IDS）已成为网络安全领域研究的焦点,多种软计算方法被应用到这项技术的研究上,本文综合了主成分分析技术的数据压缩及分类功能,和神经网络的在线计算能力,构建了一类基于PCANN的分类器,并进一步应用到异常检测中．仿真试验结果证明该检测模型的有效性．     

基于HP滤波的股票长期价格神经网络模型预测

将上证指数和深证成指股票数据作为研究对象，对股票长期价格进行预测．选取长短期神经网络、循环神经网络、HP滤波长短期神经网络混合模型和HP滤波循环神经网络混合模型进行比较分析．经过模型间的对比分析，发现HP滤波对长短期神经网络预测的优化效果要优于循环神经网络.     

基于GRU与特征嵌入的网络入侵检测

当前基于神经网络的入侵检测方法并没有将数据分类信息考虑在内，无法有效利用网络流量数据的时序信息，为此将门控循环单元（gated recurrent unit，GRU）和基于分类信息的特征嵌入技术结合起来，构建了基于GRU与特征嵌入的网络入侵检测模型。利用UNSW-NB15数据集进行模型仿真实验，结果表明该模型提高了对入侵攻击的检测率，为入侵检测中大规模数据的处理提供了一种全新的思路。     

基于改进CNN-LSTM组合模型的分时段短时交通流预测

针对现有预测模型不能充分提取交通流时空特征的问题,提出一种基于改进卷积神经网络（convolutional neural network,CNN）和长短时记忆（long short-term memory,LSTM）神经网络的短时交通流预测方法。首先,采用分层提取方法使设计的网络结构和一维卷积核函数自动提取交通流序列的空间特征;其次,优化LSTM网络模块来减少网络对数据的长时间依赖;最后,在端对端模型的训练过程中,引入改进后的自适应矩估计（rectified adaptive moment estimation,RAdam）优化算法,加快权重的拟合并提高网络输出的准确性和鲁棒性。实验结果表明：在工作日与周末分时段,所提出的模型相比堆栈自编码（stacked auto-encoders,SAEs）网络预测模型,性能分别提升3.55%与8.82%,运行时间分别缩减6.2%与6.9%;相比长短时记忆网络-支持向量回归（long-short term memory-support vector regression,LSTM-SVR）预测模型,性能分别提升0.29%与1.79%,运行时间分别缩减9.0%与9.7%。所提模型能够更加适用于不同时段下的短时交通流预测。     

基于LSTM的DAE加密流量识别

随着虚拟专用网（VPN）技术的广泛应用,实时VPN流量识别已成为网络管理和安全维护中越来越重要的任务．加密流量使得从原始流量中提取特征变得极具挑战性,现有的VPN流量识别方法通常存在高维数据特征提取困难的问题．提出了一种在DAE(Denoising Auto-Encoder,降噪自编码器)的网络结构基础上加入了LSTM(Long ShortTermMemory,长短时记忆)的模型,将深度学习相关技术融入加密流量识别技术之中,使一直存在的难以处理高维数据以及特征提取等问题得到解决．     

基于RBF神经网络的总产值预测模型研究

介绍了径向基函数（RBF）神经网络的工作原理和训练算法．根据生产总值与投资分配之间存在的映射关系，应用RBF神经网络建立了投资预测模型，并进行了仿真试验．与BP模型相比，该模型在预测精度和收敛速度方面具有显著的优点．结果表明，用RBF神经网络进行投资预测得到了十分满意的结果．     

改进型灰色神经网络模型在水质预测中的应用

介绍了三类改进的灰色模型和BP神经网络。将三类改进的灰色模型与神经网络进行组合,得到改进型灰色神经网络组合模型,将一维序列通过三个改进的灰色模型得到三组值作为神经网络的输入,原始序列作为神经网络的输出,训练得到最佳神经网络结构。将组合模型应用到嘉陵江磁器口断面总磷浓度的预测中,结果表明:(1)用该组合模型进行预测,相对误差均在5%以下,预测精度较高,取得了较理想的预测效果;(2)WPGM(1,1)、pGM(1,1)、CGM(1,1)、组合模型预测的平均相对误差分别为5.05%、34.01%、33.65%、3.02%,与单一灰色预测方法和灰色神经网络模型相比,组合模型的适应能力和预测推广能力更好,预测精度更高。     

2519铝合金本构关系的人工神经网络模型

2519铝合金足一种新型的装甲材料，变形时，各热力学参数之间存在着非常复杂的非线性关系，采用Gleeble 1500热模拟机上圆柱体轴对称高温压缩试验数据建立了该合金本构关系神经网络模型，利用所建立的网络模型对其它一些热力学状态下材料的流变应力进行了预测，实验结果表明：在目标函数为0．2、隐层节点数为5、学习率为0．1时，预测数据与实验数据吻合良好，系统误差较小(拟合度为2．6％)，表明已形成了一个知识基的本构关系模型。     

结合CEEMDAN的LSTM模型在滑坡变形预报中的应用

变形监测是工程安全监测必不可少的工作,高精度的变形预测预报能够为安全监测提供变形预警.随着对人工智能模型的深入研究,利用神经网络模型对变形时序数据进行预报的研究也逐渐增多.为研究神经网络模型在变形预测中的效果,将结合CEEMDAN的LSTM模型应用在滑坡变形预报中,通过实验比较其与单一LSTM模型、传统的ARMA模型以...     

神经网络剪枝技术研究综述

本文梳理了神经网络剪枝技术的起源与研究进展，将其分为对权重参数稀疏化的非结构化剪枝和粗粒度的结构化剪枝，分别介绍了两者近年来具有代表性的方法。由于剪枝减少了模型参数，压缩了模型大小，使得深度模型能应用于嵌入式设备，表现出剪枝在深度学习模型压缩领域中的重要性。针对现有剪枝技术，阐述了一些在实际应用和衡量标准上存在的问题，并对未来的研究发展方向进行了展望。     

模糊化疑似网络入侵中行为确定的方法与设计

针对网络入侵判断过程出现模糊化、检测结果不理想的问题,提出一种引入多层模糊逻辑模型的模糊化疑似网络入侵行为的检测方法.先要保证每一个数据项的取值处在同等区间内,设计一种多层模糊入侵判断逻辑规则,以自适应和容错性作为约束条件,通过求解多层模型的反馈解,完成对疑似网络入侵行为的确定与检测.实验结果表明,采用改进算法进行模糊化疑似网络入侵行为的检测,能够提高检测的准确性,减小误报率,满足实际的检测需求.     

砂土液化判别最优BP神经网络模型

利用BP网络模型在解决砂土液化评价这类非线性问题方面的优势,选取不同的参数组合,建立不同的砂土液化判别BP神经网络模型,并根据现场实测资料进行比较分析.结果表明,以地震烈度、标准贯入点深度、地下水位深度、标贯击数、不均匀系数及地震剪应力比作为输入节点的砂土液化判别BP神经网络模型最为合理.     

基于主成分分析的BP神经网络和RBF神经网络月平均气温预测模型

应用基于主成分分析的BP神经网络和RBF神经网络建立了气温预测模型.通过比较模型的均方误差(MSE)和平均绝对误差(MAE)值可知,采用主成分分析的BP神经网络得到的预测模型的误差小于主成分分析的RBF神经网络预测模型.结果表明,模型采用主成分分析提取了影响因变量的重要因子,去掉了网络输入样本的自变量之间的重叠因子,同时也提高了预测能力.     

基于双流LSTM神经网络的股价趋势预测

股价波动研究依赖分析金融新闻数据集浅层特征，而忽略了金融新闻句子中单词之间的结构关系，从而导致股价波动预测研究效果不佳。针对该问题，提出了一种基于双流长短时记忆网络（long short term memory network, LSTM）神经网络的股价趋势预测模型（Sent2Vec-DLSTM）。该模型的创新之处在于：提出了基于金融股票新闻数据集和哈佛IV-4情绪词典训练的情感词向量生成模型——Sent2Vec；提出了新型的双流LSTM神经网络（Dual-stream LSTM, DLSTM）。在实验中，首先用标普500指数历史数据以及爬取获得的金融类文章进行标普500指数的趋势预测，然后用VietStock新闻和来自Cophieu68的股票价格数据预测VN指数的变化趋势。结果表明，Sent2Vec-DLSTM相较于现有模型在股价趋势预测中具有更好的效果。     

基于对角递归神经网络的非线性逆动态控制

采用2个对角递归神经网络(DRNN)构成非线性逆动态控制系统，一个用作辨识器，逼近系统的正模型，为逆动态控制提供系统的灵敏度；另一个用作控制器，逼近系统的逆动态模型，再与原系统串联组成伪线性系统．仿真结果表明该控制方法实现了对非线性系统的有效控制。     

大学生综合素质评价的神经网络模型

文章在建立大学生综合素质评价指标体系的基础上，提出一个用于进行大学生综合素质评价的神经网络模型，并对模型的结构，训练方法等方面进行了阐述．