基于压缩卷积神经网络的交通标志分类算法

针对车载计算系统很难满足大型卷积神经网络对计算资源和存储空间需求的问题,提出了一种基于压缩卷积神经网络的交通标志分类算法.首先挑选原始VGG-16和AlexNet在GTSRB数据集上进行分类训练;然后对网络模型进行基于泰勒展开的通道剪枝删除冗余的特征图通道;接着使用三值量化方法对剪枝后的网络模型进行参数量化;最后进行了通道剪枝、参数量化和组合压缩的实验.结果表明:本算法有效地压缩了网络模型,减少了运算次数.最终组合压缩的VGG-16网络模型的存储空间减少一半,参数数量为原始模型的9%,每秒浮点运算次数减少为原始模型的1/5,模型加载速度提升了5倍,测试速度提升了2倍,精度为原始模型的97%.     

深度学习模型压缩方法在竹种分类中的应用研究

本文提出了一种基于深度学习模型压缩的竹种分类方法,旨在将压缩后的模型移植到手机端进行竹种自动分类.首先动态设置阈值删除已经训练的竹种分类模型中不重要权重,迭代剪枝与再训练同时进行.再通过K-Means++聚类算法对神经网络各层的权值聚类,从而实现权值共享,最后再经过量化模型的参数值压缩神经网络模型.实验结果表明:剪枝后的模型相较剪枝前的模型内存占用降低了46.4%.剪枝后模型进行量化后模型压缩了75%.压缩后的模型整体运行速度提升,其中基于AlexNet网络结构相较于VGGNet-16的竹种分类模型压缩后可更好应用到移动端,为离线状态下基于移动端进行分类提供支撑.     

深度神经网络模型数字水印技术研究进展综述

近年来,深度神经网络模型在各种应用领域都取得了巨大的成功,训练先进的深度神经网络模型仍需要大规模的数据集、高昂的算力成本和优异的算法思想,生成的深度神经网络模型成为一种宝贵的资源,也是完成人工智能应用领域某项特定任务的核心算法。因此,深度神经网络模型的安全则变得极其重要,利用数字水印版权保护技术保障模型的安全已经成为人工智能安全领域一个重要的研究方向。为了综述深度神经网络模型数字水印版权保护技术的最新研究进展,首先介绍了深度神经网络模型数字水印技术分类;其次介绍了深度神经网络模型数字水印版权保护技术基础概况;再次归纳总结了深度神经网络模型数字水印版权保护技术的研究方法;最后总结并展望了深度神经网络模型数字水印版权保护领域的研究重点和发展方向。     

基于知识蒸馏的差异性深度集成学习

深度神经网络模型在图像识别、语音识别等领域表现出了优异的性能,但高性能的模型对计算资源提出了更高的要求,存在难以部署于边缘设备的问题,对此提出一种基于知识蒸馏的差异性深度集成学习。首先对成员模型进行知识蒸馏,然后使用余弦相似度作为损失函数的正则化项对成员模型进行集成,最后得到训练好的模型。在MNIST(Mixed National Institute of Standards and Technology)和CIFAR10(Canadian Institute for Advanced Research)数据集上的试验结果表明,基于知识蒸馏的差异性深度集成学习在压缩模型的同时将模型的分类准确率提升至83.58%,相较于未经蒸馏的原始模型,分类准确率提高了4%,在压缩模型的同时提高模型的泛化性能。基于知识蒸馏的差异性深度集成学习打破了模型的压缩必然以泛化性能为代价这一认知,为模型集成提供了新的研究思路。     

互层状岩体的粘弹性流变模型及数值分析

以绿片岩和大理岩互层的层状岩体为研究对象,分别建立单轴轴向压缩荷载垂直和平行于层理时的两种互层状岩体粘弹性流变模型,采用有限差分程序FLAC3D对互层状岩体进行了单轴压缩蠕变试验的数值分析,将轴向应变的数值解与理论解进行对比,验证这两种模型的正确性.在数值分析中考虑大理岩夹层的体积分数、深度、条数和间距等对数值计算结果的影响.研究结果表明,轴向应变的数值解与理论解比较接近,说明提出的两种互层状岩体粘弹性流变模型是正确的.当进行单轴压缩蠕变试验的数值分析时,轴向应变理论解与数值解的误差随着大理岩夹层的深度、条数和间距等的改变呈规律性的增加或者减小.     

基于神经网络模型的文本分类研究综述

文本分类是自然语言处理与理解当中重要的一个研究内容,在文本信息处理过程中有关键作用.目前深度学习已经在图像识别、机器翻译等领域取得了突破性的进展,而且它也被证明在自然语言处理任务中拥有着提取句子或文本更高层次表示的能力,也备受自然语言处理研究人员的关注.文章以基于深度学习的文本分类技术为研究背景,介绍了几种基于深度学习神经网络模型的文本分类方法,并对其进行分析.     

深度神经网络在阿尔兹海默病预测中的应用分析（英文）

综述了深度神经网络方法在阿尔兹海默病分类和预测中的应用.首先,描述了深度神经网络方法在阿尔兹海默病分类和预测中的优势.其次,介绍了深度神经网络方法在阿尔兹海默病分类和预测中的具体应用,重点介绍了文献中使用的深度神经网络模型、数据类型、研究人群和特征类型等,并比较它们在AD/MCI分类中的表现.最后,预测了该领域未来的发展趋势和挑战.     

基于深度学习的多媒体移动物体检测技术研究

为了解决深度学习技术无法满足用户对多张照片移动目标物体识别的需求,提出基于深度学习的多媒体移动物体检测技术.提出基于前馈神经网络的目标定位技术,设计目标定位模型,计算目标边界框的大致位置以及概率;对视频中的目标行为进行预测;利用卷积神经网络融合特征和自然语言搜索特征完成自然目标搜索.     

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均...     

基于神经网络技术的干散货运价指数预测

在考虑了干散货运输需求、干散货船舶供给以及干散货船舶闲置等对运价指数影响的基础上,采用神经网络技术对月度干散货指数进行了研究,并且与基于ARCH模型和多元线性回归模型的预测进行了对比研究,结果表明从提高预测精度的角度来说神经网络技术是最优的.     

LACC:a hardware and software co-design accelerator for deep neural networks

With the increasing of data size and model size,deep neural networks(DNNs) show outstanding performance in many artificial intelligence(AI) applications.But the big model size makes it a challenge for high-performance and low-power running DNN on processors,such as central processing unit(CPU),graphics processing unit(GPU),and tensor processing unit(TPU).This paper proposes a LOGNN data representation of 8 bits and a hardware and software co-design deep neural network accelerator LACC to meet the challenge.LOGNN data representation replaces multiply operations to add and shift operations in running DNN.LACC accelerator achieves higher efficiency than the state-of-the-art DNN accelerators by domain specific arithmetic computing units.Finally,LACC speeds up the performance per watt by 1.5 times,compared to the state-of-the-art DNN accelerators on average.     

岩体强度确定的神经网络方法

叙述了神经网络的基本原理，建立了岩体强度确定的神经网络模型，编制了岩体强度确定的神经网络系统软件。同时，结合棒磨山铁矿的具体实例，将此系统作了分析，并与常用的岩体强度计算方法作了比较。     

基于神经网络的分形图像压缩与解压缩

图像压缩技术中,分形图像压缩与解压缩具有较高的压缩率和低损耗率,但基于迭代函数系统的自动分形图像编码方法计算量大,因此限制了其实际应用。人工神经网络具有学习、记忆、识别及推理等特点,为分形图像压缩解压缩提供了一个全新的解决方案。提出使用神经网络方法以并行方式完成分形图像压缩与解压缩的大量计算,模拟结果显示,与基本的自动分形图像编码方法相比,在基本保证重建图像质量的前提下,运算时间和码率均下降,显示出神经网络技术应用于分形图像压缩与解压缩中的可行性及高效性。     

实景三维模型缺陷修复关键技术

为了有效提高实景三维模型反映各类型地理要素的准确度和精细度以充分支撑实景三维中国建设工作,本文首先将当前无人机倾斜摄影三维重建后的三维模型中存在的模型缺陷系统性分为四大类型,并分析其产生的原因。随后,本文针对性地提出了三种关键技术：一是基于连通性和欧氏距离聚类的交互式悬浮物去除,利用图割理论和随机一致性抽样算法识别和删除悬浮物;二是基于图割理论的水面半自动整平,在利用Grabcut算法提取水面区域的同时为其赋予统一高程以实现水面的平整;三是基于深度网络模型的水体纹理inpainting填充,利用卷积神经网络和深度对抗训练以获得水体纹理的特征和结构从而实现水体缺失纹理的修复。最后,本文利用湖北省宜昌市的实际生产数据进行了修复实验,实验结果表明本文提出的各项关键技术能够有效修复三维模型缺陷,从而使实景三维模型具备更精细的地理实体和地理景观还原度。     

改进残差神经网络在遥感图像分类中的应用

针对传统卷积神经网络随着深度加深而导致网络退化以及计算量大等问题,提出一种改进残差神经网络的遥感图像场景分类方法。该方法以残差网络ResNet50作为主框架,在残差结构中引入深度可分离卷积和分组卷积,减少了网络的参数量和计算量,加快模型收敛的同时也提升了分类精度。此外在网络中嵌入多尺度SE block模块对通道特征进行重校准,提取出更加重要的特征信息,进一步提升了网络的分类性能。在AID和UCMerced_Land Use两个公开数据集上的分类精度分别为91.92%和93.52%,相比常规残差网络分类精度分别提高了3.38%和10.24%,证明所提方法在遥感图像场景分类任务中的可行性和有效性。     

基于CGRU模型的语音情感识别研究与实现

语音情感识别是人机交互、情感计算中重要的研究方向.目前普遍使用深度神经网络用于语音情感特征的提取，但使用哪种神经网络模型、如何缓解模型过拟合问题还需进一步研究.针对这些问题，提出了一种结合一维卷积(CNN)以及门控循环单元(GRU)的CGRU模型，从原始语音信号的MFCC特征中提取语音的低阶以及高阶情感特征，并通过随机森林对其进行特征选择，在三种公用的情感语料库EMODB，SAVEE，RAVDESS上分别取得了79%，69%以及75%的识别精度.通过添加高斯噪声及改变速度等方法来增加样本量实现数据扩充，进一步提高了识别精度.通过在线识别系统验证了模型在实际环境中的可用性.     

基于改进U-Net模型的二维电介质目标重构

提出了一种基于改进U-Net（M-Net）模型的电磁逆散射算法.M-Net模型主要由多尺度输入层、U型卷积神经网络（CNN）、多尺度均值输出层组成.将散射场数据作为网络输入,能够在保证计算精度与计算效率的同时,减少人工计算工作量.以二维电介质为重构目标的仿真实验表明：与U-Net模型对比,应用M-Net模型求解电磁逆散射问题较为高效,输出结果误差更小.     

融合特征通道重要性与相似性的深度YOLO网络压缩方法

基于深度YOLO网络的目标检测方法网络结构复杂、冗余参数过多、计算量大,极大影响模型检测性能。针对此问题,从降低网络中低效通道和冗余通道的影响出发,提出了一种融合特征通道重要性与相似性的深度YOLO网络压缩方法,基于深度网络压缩中的网络剪枝思路,采用2次剪枝剪去低效及冗余特征通道。构建通道重要性计算方法,将稀疏因子作为通道效能计算指标,结合剪枝率剪去低效通道;根据通道间存在的线性关系计算其相似度,对相似度较高的通道进行替代,剪去相似度较大的通道;微调模型参数,恢复剪枝前的检测精度。仿真实验表明,同当前性能较优的深度网络压缩方案相比,提出的方法在保证目标检测精度的同时极大减小了模型尺寸、提升了检测速度,方法可行、有效。     

基于混合神经网络的中文隐式情感分析

隐式情感分析是情感计算的重要组成部分,尤其是基于深度学习的情感分析近年来成为了研究热点.本文利用卷积神经网络对文本进行特征提取,结合长短期记忆网络(LSTM)结构提取上下文信息,并且在网络中加入注意力机制,构建一种新型混合神经网络模型,实现对文本隐式情感的分析.混合神经网络模型分别从单词级和句子级的层次结构中提取更有意义的句子语义和结构等隐藏特征,通过注意力机制关注情绪贡献率较大的特征.该模型在公开的隐式情感数据集上分类准确率达到了77%.隐式情感分析的研究可以更全面地提高文本情感分析效果,进一步推动文本情感分析在知识嵌入、文本表示学习、用户建模和自然语言等领域的应用.