关于卷积神经网络损失函数的改进算法

经典的卷积神经网络模型损失函数在设计时只考虑输出与标签之间的比较,没有涉及到图片之间的差异.为了提高卷积神经网络模型提取特征的差异,提出了基于Triplet network模型约束的卷积神经网络模型,这种方法提高了卷积神经网络提取有效特征的能力,减少数据集数量对于模型的影响.在MNIST数据集和cifar-10数据集上进行实验,提出的新模型在这2个数据集上比经典的卷积神经网络模型识别效果更好.     

基于模糊粗糙神经网络的交通流研究

交通流预测是实现道路交通科学管理的重要内容,文章概述了模糊粗糙神经网络的基本原理,通过模糊粗糙隶属函数建立了基于模糊粗糙神经网络的交通流控制模型,设计了两级协调模糊控制器,结合模糊控制理论和神经网络各自的优点,构造了模糊粗糙神经网络.通过实践结果证明,该算法精度高,学习速度快,适应能力强,对实时交通流预测有一定的指导意义.     

基于深度卷积神经网络的遥感图像超分辨率重建

针对基于卷积神经网络(Convolutional Neural Network,CNN)的遥感图像超分辨率重建算法训练时间较长问题,提出了一种超深的卷积神经网络来重建遥感低分辨率图像的方法。卷积神经网络共有20层,每层包含卷积层和非线性层,层与层之间采用级联的网络结构。其过程为从插值的低分辨率图像(Interpolated Low Resolution Image,ILR)中提取特征,将提取出来的特征通过残差学习预测到高频信息,ILR结合预测的高频信息重建出高分辨率图像(High-resolution Images,HR)。在训练过程中,通过梯度裁剪来防止梯度爆破,使训练保持平稳。实验表明,本文算法与其他算法相比较,主观视觉明显改善,客观评价指标显著提升。     

基于卷积神经网络的时空权重姿态运动特征提取算法

在传统姿态运动特征提取过程中存在有效提取效率低的问题,于是提出了基于卷积神经网络(convolutional neural network,CNN)算法的时空权重姿态运动特征提取算法.针对所选择的运动时空样本,提取相应的时空运动关键帧并以静态图像的形式输出;采取运动目标检测、图像增强等多项措施完成初始运动图像的预处理工...     

基于三维卷积和CLSTM神经网络的水产养殖溶解氧预测

提出了一种基于三维卷积和卷积长短期记忆(convolutional long short-term mem-ory,CLSTM)神经网络的水产养殖溶解氧预测模型.首先,将输入向量及其转置相乘形成一个单通道矩阵,把一定时间段内的单通道矩阵堆叠成一个立方体作为输入数据;然后,将输入数据进行连续两次三维卷积来细化溶解氧相关因...     

基于卷积神经网络的口罩遮挡条件下人脸识别技术研究

为了解决戴口罩人脸识别率不高的问题,开展基于卷积神经网络的研究.本研究所用的数据集均为戴口罩的人脸图像,总共1016张图片,其中测试样本为305张,训练样本为711张.本研究采用对比试验的方法,在初始卷积神经网络模型结构不变的情况下,修改每一个卷积层的卷积核数量,从后往前进行对比,得出本研究最佳模型,人脸检测准确率约为...     

基于运动历史图像与卷积神经网络的行为识别

针对人体行为识别难于兼顾速度与精度的问题,提出了一种结合运动历史图像(MHI)与卷积神经网络的行为识别算法.该算法首先从原始视频序列中计算MHI,不仅减少了待处理的信息量,还提取了行为识别中的关键时空信息;接着以MHI作为输入,搭建了深度卷积神经网络,可以更好地表达时空信息;最后利用随机梯度下降法与dropout策略训练网络,实现行为类别分类.对比不同卷积神经网络训练与测试实验,该算法在Weizmann行为识别数据集上取得了95%的平均识别率,相较于未改进的网络结构提升了1.2%;对于持续时间为1.6s的行为动作,该算法的识别时间为1.56s.实验结果表明,所提算法在维持较高识别准确率的同时,实现了人体行为的在线实时识别与分类.     

基于非平衡问题的高斯混合模型卷积神经网络

为了提升分类模型对非平衡数据的分类性能，提出一种EMWRS(expectation-maximization weighted resampling)抽样算法和WCELoss(weighted cross entropy loss function)损失函数，在数据预处理阶段采用高斯混合模型得知数据分布特点，根据其聚类结果分析每个聚类簇中样本权重，以及样本分布和对应权重对数据进行采样，降低数据集不平衡程度；再依据样本比例权重对少数类和多数类赋予不同的代价损失，构建卷积神经网络模型，提高非平衡数据集的分类准确性。构建的卷积神经网络以F1和G-mean为评价指标，在UCI(university of California irvine)公共数据集adult上与SMOTE(synthetic minority over-sampling technique)和ADASYN(adaptive synthetic sampling)等多种经典算法进行比较，结果显示在这两种评价指标中所提模型均为第一，这表明改进后的卷积神经网络模型能够很好地提高少数类分类正确率。     

基于主成分分析的BP神经网络和RBF神经网络月平均气温预测模型

应用基于主成分分析的BP神经网络和RBF神经网络建立了气温预测模型.通过比较模型的均方误差(MSE)和平均绝对误差(MAE)值可知,采用主成分分析的BP神经网络得到的预测模型的误差小于主成分分析的RBF神经网络预测模型.结果表明,模型采用主成分分析提取了影响因变量的重要因子,去掉了网络输入样本的自变量之间的重叠因子,同时也提高了预测能力.     

注意力引导的三维卷积网络用于遥感场景变化检测

场景级变化检测策略可以容忍高分遥感影像的大量噪声,进而从语义层级更准确地描述遥感图像在前后时相的变化,为高分辨率影像变化检测提供了可能.本文提出了一种注意力引导的三维卷积神经网络用于高分遥感影像场景变化检测的方法.首先构建一个在AlexNet基础上进行简化的三维卷积网络,然后加入一个语义注意力模块来进一步提取地表覆盖变...     

基于EMD优化NAR动态神经网络的地铁客流量短时预测模型

为了能够更加准确地实现地铁客流预测,提出了一种基于经验模态分解算法（empirical mode decomposition,EMD）优化非线性自回归（nonlinear auto regressive,NAR）动态神经网络的地铁客流量短时预测模型.分析地铁客流量数据后发现日客流量具有一定的变化规律,为此使用了基于时间序列的NAR动态神经网络,该网络具有优秀的非线性动态拟合能力和反馈记忆的功能.结合EMD经验模态分解算法优化NAR动态神经网络预测模型,以此来减少预测误差,提高预测精度.结果显示,EMD-NAR神经网络组合预测模型适用于地铁客流的短时预测,预测精度可达93%,具有较好的应用价值.     

基于双流LSTM神经网络的股价趋势预测

股价波动研究依赖分析金融新闻数据集浅层特征，而忽略了金融新闻句子中单词之间的结构关系，从而导致股价波动预测研究效果不佳。针对该问题，提出了一种基于双流长短时记忆网络（long short term memory network, LSTM）神经网络的股价趋势预测模型（Sent2Vec-DLSTM）。该模型的创新之处在于：提出了基于金融股票新闻数据集和哈佛IV-4情绪词典训练的情感词向量生成模型——Sent2Vec；提出了新型的双流LSTM神经网络（Dual-stream LSTM, DLSTM）。在实验中，首先用标普500指数历史数据以及爬取获得的金融类文章进行标普500指数的趋势预测，然后用VietStock新闻和来自Cophieu68的股票价格数据预测VN指数的变化趋势。结果表明，Sent2Vec-DLSTM相较于现有模型在股价趋势预测中具有更好的效果。     

基于LSTM和特征生成的网络流量分类

本文提出了一种将特征生成和长短期记忆（long short term memory,LSTM）模型相结合的网络流量分类方法。该方法采用矩阵乘法特征生成方式,分析对比了不同特征生成方法的分类性能。通过实验比较了原数据和特征数据在分类问题上的准确性,并比较了卷积神经网络（convolutional neural network,CNN）和本文方法用于网络流分类的效果。在统计特征时采用核函数,使其可以适应LSTM输入维度,获得更佳的分类效果。对真实网络流数据的实验结果表明,本文方法在细分类中的准确度可达93.9%,而在粗分类任务中可达99.2%,其性能明显优于现有其他分类方法。     

基于CNN和Bi-LSTM的脑电波情感分析

针对目前大多数脑电波情感识别方法存在的依赖手动特征提取等问题,提出一种基于卷积神经网络(convolutional neural network,CNN)和双向长短时记忆(bidirectional long short-term memory,Bi-LSTM)网络的混合模型.首先将一维数据转换为二维数据,采用CNN提...     

LSTM预测驱动的软件系统主动自适应方法

针对反应式自适应软件系统调整滞后的问题,提出了一种基于长短期记忆（long short-term memory, LSTM）网络预测驱动的主动自适应方法。该方法将LSTM神经网络预测技术嵌入监测-分析-决策-执行-知识控制模型的分析环节,利用自适应环境、质量及目标相关的运行数据和历史数据进行分类预测,形成自适应预警机制,在减小传统自适应决策滞后性影响的同时有效提高了软件系统的主动自适应能力。为了说明所提方法的主动性、鲁棒性、有效性,在经典的分布式远程辅助系统上对该方法进行实验评估。结果表明：该方法能够针对自适应需求提前预警,推动软件系统在必要时进行主动的自适应调整。     

改进的CRNN模型在警情文本分类中的研究与应用

针对某市公安110接处警文本描述进行案件分类的需求,参考现有文本分类方法在其他行业的应用,搭建了应用于警情描述的文本分类系统.通过论证常见分类网络适用场合及其优缺点,结合对警情数据中案件描述特征的分析,提出了基于改进卷积循环神经网络的模型,该模型优化了关键特征提取过程,弥补了现有模型短文本局部特征提取不足的缺陷.实验表明,该模型的准确率比常见分类模型提升了2%~3%,且能够有效保证数据局部特征的关联性,可以对案件描述所对应的案件类型进行准确分类,从而提高公安接处警平台的自动化效率.     

融合音频、文本、表情动作的多模态情感识别

针对机器识别人类情感过程中的精度不高、泛化能力不强等问题,提出了一种基于语音、文本和表情动作的3种模态情感识别融合方法。在语音模态中,设计深度波场延拓和改进波动物理模型,模拟长短期记忆（long short-term memory, LSTM）网络的序列信息挖掘过程;在文本模态中,利用含有多头注意力机制的Transformer模型捕捉语义上潜在的情感表达;在表情动作模态中,将提取面部表情和手部动作的序列特征与双向三层含有注意力机制的LSTM模型相结合。最终提出一种多性能指标下的模态融合方案,以实现高精度的、强泛化能力的情感识别。在通用的交互式情感二元运动捕捉语料库IEMOCAP中,将所提出的方法与现有的情感识别算法进行对比,实验结果表明：所提出的算法在单个模态和多个模态中的识别精度均较高,平均精度改善达到16.4%和10.5%,有效提升了人机交互中情感识别的能力。     

应用改进BP网络进行铁路客运量预测研究

针对传统铁路客运量预测方法的不足,提出运用改进BP神经网络结合四阶段法进行客运量预测,给出了预测算法,建立了铁路客运量神经网络预测模型,并对敦煌铁路客运量进行预测,设计网络参数,进行网络学习和训练,最终得到较为精确的2010年及2015年敦煌铁路客运量,为该线路今后的运营管理提供决策参考．