深度学习在图像识别中的应用

深度学习通过建立深层神经网络来模拟人脑进行分析、学习和解释数据,被广泛用于图像识别领域.首先,简述了深度学习在图像识别中的研究现状;其次,介绍了卷积神经网络、深度置信网络、循环神经网络和生成对抗网络等几种常用于图像识别领域的深度学习网络模型;然后,从人脸识别、动作识别、跌倒检测等方面,论述了深度学习在图像识别领域的典型应用;最后,探讨了该领域的研究难点及发展前景.深度学习可以从不同的图像中自动提取相似的特征并进行分类,识别率高,鲁棒性强,推动了人工智能背景下图像识别的发展.无监督学习、对抗网络等将成为深度学习领域的热点.     

卷积神经网络发展

卷积神经网络作为深度学习的重要代表算法之一,被应用到人脸识别、行为识别、字符识别和图像处理等多个领域,推动着人工智能的快速发展.本文在分析整理大量文献后,总结了卷积神经网络的发展阶段,介绍了卷积神经网络的基本结构和关键技术,选取LeNet、AlexNet、VGGNet、GoogLeNet和ResNet等几种具有代表性的网络进行分析对比,并指出各个网络的应用场景和优缺点,最后提出卷积神经网络未来的研究发展方向.     

信息网络表示学习方法综述

网络表示学习方法将信息网络表示为低维稠密携带网络节点特征信息的实数向量,应用于下游机器学习任务的输入,随着机器学习与深度学习的发展,网络表示学习拥有强大的建模能力且应用广泛。对网络表示学习方法、应用进行了归纳总结。首先,对当前国内外网络表示学习方法进行梳理归类,分为传统方法、基于网络结构的嵌入、融入属性信息的嵌入,以及基于谱域的图卷积、基于空间的图卷积和图attention网络,按类别对各类模型详细阐述,对比模型之间的适用性和方法特点;其次,介绍了网络表示学习的相关应用,包括推荐系统领域、生物医药领域等,整理常用的数据集、开源实现的表示学习模型和强大的图深度学习库供研究者参考调用;最后,对网络表示学习的发展趋势进行了总结与展望。未来可在深层的图神经网络学习、动态和异构网络的表示、网络模型的泛化能力等方面继续开展研究。     

基于深度学习的船舶横摇运动姿态控制研究综述

深度学习是人工智能领域的一个研究热点,在学术界、工业界以及政府部门均可发挥重要的作用。深度学习在船舶运动姿态领域的研究尚处于起步阶段,目前可查的研究成果甚少。该文首先概述了4种机器学习算法,包括监督学习、无监督学习、半监督学习和强化学习,介绍了几种重要的神经网络模型与常用大规模训练方案;其次分析几种常用的深度学习优化算法,并在此基础上,结合船舶横摇/艏摇运动模型,阐述了船舶横摇角和艏摇角的数据训练系统、数学模型和预测方法;最后总结了该领域存在的问题和发展前景。     

文本方面级情感分类方法综述

随着深度学习的发展,方面级情感分类已经在单领域和单一语言中取得了大量的研究成果,但是在多领域的研究还有提升的空间。通过对近年来文本方面级情感分类方法进行归纳总结,介绍了情感分类的具体应用场景,整理了方面级情感分类常用的数据集,并对方面级情感分类的发展进行了总结与展望,提出未来可在以下领域开展深入研究：1）探索基于图神经网络的方法,弥补深度学习方法存在的局限性;2）学习融合多模态数据,丰富单一文本的情感信息;3）开展更多针对多语言文本和低资源语言的研究。     

基于融合注意力机制与CNN-LSTM的人体行为识别算法

为解决单一的卷积神经网络（CNN）缺乏利用时序信息与单一循环神经网络（RNN）对局部信息把握不全问题,提出了融合注意力机制与时空网络的深度学习模型（CLA-net）的人体行为识别方法。首先,通过CNN的强学习能力提取局部特征;其次,利用长短时记忆网络（LSTM）提取时序信息;再次,运用注意力机制获取并优化最重要的特征;最后使用softmax分类器对识别结果进行分类。仿真实验结果表明,CLA-net模型在UCI HAR和DaLiAc数据集上的准确率分别达到95.35%、99.43%,F1值分别达到95.35%、99.43%,均优于对比实验模型,有效提高了识别精度。     

基于卷积神经网络的入侵检测算法

作为深度学习的一种有效算法,深度卷积网络已成功应用在处理图像、视频和音频等领域.通过建立一卷积神经网络模型并应用于网络入侵检测,选取的卷积核与数据进行卷积操作提取特征的局部相关性从而提高特征提取的准确度.采集到的网络数据通过多层"卷积层-下采样层"的处理对网络中正常行为和异常行为的特征进行深度刻画,最后通过多层感知机进行正确分类.KDD 99数据集上的实验表明,文中提出的卷积神经网络模型与经典BP神经网络、SVM算法等相比,有效提高了入侵检测识别的分类准确性.      

卷积神经网络的研究进展综述

深度学习(deep learning,DL)强大的建模和表征能力很好地解决了特征表达能力不足和维数灾难等模式识别方向的关键问题,受到各国学者的广泛关注.而仿生物视觉系统的卷积神经网络(convolutional neural network,CNN)是DL中最先成功的案例,其局部感受野、权值共享和降采样三个特点使之成为智能机器视觉领域的研究热点.对此,本文综述CNN最新研究成果,介绍其发展历程、最新理论模型及其在语音、图像和视频中的应用,并对CNN未来的发展潜力和发展方向进行了展望和总结.     

基于深度学习处理框架的神经网络压缩方法研究

以深度学习为代表的人工智能领域在最近10年得到了迅猛发展，人工智能的算法、模型得到了越来越多的关注及应用。近年来，深度学习算法规模的快速增长使得如何构建高能效深度学习处理器成为了当前深度学习研究的一大挑战。现有的研究工作主要从软件算法和硬件架构2个层面开展，并通过软硬件协同进行优化空间的拓展。将从算法和架构协同的角度，介绍如何使用稀疏推理和量化训练2种神经网络压缩方法提供相应的硬件架构支持，为构建高能效深度学习处理器提供解决方案。     

深度学习在轴承故障诊断领域的应用研究

深度学习具有强大的学习能力和特征分类能力,能够在海量、多源和高维测量数据中进行特征提取,具有不依赖人工干预而进行模型诊断和泛化的能力,广泛应用于设备故障诊断领域。阐述了深度学习的典型模型:深度置信网络(DBN)、卷积神经网络(CNN)和自编码器(AE),重点论述了深度学习在轴承故障诊断领域的应用进展。最后讨论了深度学习在轴承故障诊断领域所存在的问题及发展趋势。     

基于域理论的自适应谐振神经网络研究

在自适应谐振理论和域理论的基础上提出了一种基于域理论的自适应谐振神经网络算法ＦＴＡＲＴ。该算法将自适应谐振理论和域理论的优点有机结合,采用了独特的解决样本间冲突和动态扩大分类区域的方法,不需人为设置陷层神经元,学习速度快,精度高。此外,还提出了一种从ＦＴＡＲＴ网络中抽取符号规则的方法,即基于统计的产生－测试法,实验结果表明,使用该方法抽取出的符号规则可理解性好、预测精度高,可以很好地描述ＦＴＡＲＴ     

输油管道泄漏检测技术综述

为进一步改善输油管道泄漏的检测方法, 概述了目前一些常用的输油管道泄漏检测方法, 如直接检测 法、 负压波检测法和基于神经网络的检测方法等。 分析了这些检测方法在应用时的优缺点。 然而, 随着对输油 管道泄漏检测要求的提高, 这些检测方法不能满足人们的要求, 仍需要进一步改善。 同时, 将深度学习引入了 输油管道的泄漏检测中。 深度学习是在神经网络基础上的进一步发展, 它在许多方面上的应用弥补了该应用 基于神经网络方法存在的不足。 其中, 深度学习已经在图像和语音识别应用中取得了成功。 这些情况为以后 将深度学习应用于输油管道的泄漏检测提供了部分理论支持。     

面向图像数据的对抗鲁棒性综述

神经网络的脆弱性是深度学习方法中的关键挑战之一,获得鲁棒的深度神经网络是网络安全和深度学习的共同目标。然而单一学科得参与并不能有效解决当前面对抗鲁棒性面临的复杂问题。该文章旨在引起诸多学科对对抗鲁棒性研究的兴趣,包括认知科学、人类科学和社会科学。本综述从四个方面总结了对抗性鲁棒性,分别是：对抗攻防、对抗性脆弱的原因、泛化和评估。其次,提出了三个较为重要的研究方向以及一些开放性问题。解决对抗脆弱性问题需要多学科参与,对抗鲁棒性研究发展需要深度学习模式向开放转变。     

一种元卷积网络和持续学习融合的洞库类目标识别方法

洞库类目标是高价值识别目标,针对洞库类目标样本数据难以获得、样本内部数据相似度较高、人工设计识别特征方法局限性较大、普通深度网络需要海量数据等问题,提出了结合元学习和深度卷积网络的元-卷积网络（MCNN）,并融合持续学习理论的洞库类目标识别方法（MCNN-LLS）.首先结合深度卷积网络、元学习的理论建立元-卷积网络,该网络可利用旧知识指导新知识的训练,利用小样本数据即可训练得到识别能力较高的深度洞库模型;然后融合持续学习理论,建立持续学习系统（LLS）,设计专家审核模型判别深度洞库模型的识别结果,并引入潜在任务、模型异步更新等方法,达到模型持续学习、持续更新的效果.实验表明,本文方法所需样本数量少,对洞库类目标识别准确率高,且识别能力可随识别过程中新数据的积累逐步提高.      

基于覆盖的神经网络集成在语音识别中的应用

神经网络集成通过训练多个神经网络并将各网络的结论进行合成,从而得到最终结果.集成可以显著的提高学习系统的泛化能力.讨论了基于覆盖思想而设计的神经网络集成方法,并将其应用于汉语孤立数码语音识别系统中,通过在集成过程中加入基于覆盖思想的控制算法降低系统的泛化误差,从而使系统的识别效果有了进一步的提高.     

关于泛化神经网络与支持向量机的研究

人工神经网络(ANN)的泛化特性是神经网络最重要的特性,同时也是最不容易保证的特性。本文对改进泛化的神经网络算法以及新兴的机器学习算法——支持向量机算法进行研究,并分别用BP神经网络、改进泛化能力的神经网络、支持向量机对人体脂肪测试实例进行仿真预测分析,结果表明,支持向量机比神经网络、改进泛化神经网络具有更好的预测(泛化)能力,是人工神经网络的替代方法。     

推荐系统研究综述

随着互联网技术的快速发展,如何对海量网络信息进行挖掘分析,已成为热点和难点问题。推荐系统能够帮助用户在没有明确需求或者信息量巨大时解决信息过载的问题,为用户提供精准、快速的业务(如商品、项目、服务等)信息,成为近年来产业界和学术界共同的兴趣点和研究热点,但是,目前数据的种类多种多样并且应用场景广泛,在面对这种情况时,推荐系统也会遇到冷启动、稀疏矩阵等挑战。深度学习是机器学习的一个重要研究领域和分支,近年来发展迅猛。研究人员使用深度学习方法,在语音识别、图像处理、自然语言处理等领域都取得了很大的突破与成就。目前,深度学习在推荐领域也得到了许多研究人员的青睐,成为推荐领域的一个新方向。推荐方法中融合深度学习技术,可以有效解决传统推荐系统中冷启动、稀疏矩阵等问题,提高推荐系统的性能和推荐精度。文中主要对传统的推荐方法和当前深度学习技术中神经网络在推荐方法上的应用进行了归纳,其中传统推荐方法主要分为以下3类:1)基于内容推荐方法主要依据用户与项目之间的特征信息,用户之间的联系不会影响推荐结果,所以不存在冷启动和稀疏矩阵的问题,但是基于内容推荐的结果新颖程度低并且面临特征提取的问题。2)协同过滤推荐方法是目前应用最为广泛的一种方法,不需要有关用户或项目的信息,只基于用户和诸如点击、浏览和评级等项目的交互信息做出准确的推荐。虽然该方法简单有效但是会出现稀疏矩阵和冷启动的问题。3)混合推荐方法融合了前2种传统推荐方法的特点,能取得很好的推荐效果,但在处理文本、图像等多源异构辅助信息时仍面临一些挑战与困难。依据神经网络基于深度学习的推荐方法主要分为4类:基于深度神经网络(DNN)的推荐方法、基于卷积神经网络(CNN)的推荐方法、基于循环神经网络(RNN)和长短期记忆神经网络(LSTM)的推荐方法、基于图神经网络(GNN)的推荐方法、将深度学习技术融入到推荐领域,构造的模型具有以下优势:具有较强的表征能力,可以直接从内容中提取用户和项目特征;具有较强的抗噪能力,可以轻易地处理含有噪声的数据;可以对动态或者序列数据进行建模;可以更加精准地学习用户或项目特征;便于对数据进行统一处理,并且可以处理大规模数据。将深度学习技术应用到推荐领域,可以积极有效地应对传统推荐方法面临的挑战,提高推荐效果。     

基于深度学习的汽车轮毂缺陷自动分割技术

针对建立轮毂无损检测智能化平台的需要,本文提出一种基于深度学习算法的轮毂缺陷自动分割方法,利用卷积神经网络的结构和径向基函数神经网络的非线性特点,构造一种深度学习网络结构来模拟人类的视觉感知。本文依据汽车轮毂X射线图像,利用U-Net网络来训练轮毂缺陷分割模型,并在感兴趣区域的基础上模拟人脑层次感知系统,该层次感知系统能识别感兴趣区域的灰度像素,通过深度学习分层网络和卷积神经网络,逐层提取缺陷区域的内在特征,从而实现轮毂缺陷的自动分割。实验表明本方法针对复杂轮毂缺陷的识别率达到90%以上,且识别时间开销大约5ms/张,优于传统方法。可见该方法能够满足轮毂缺陷自动分割的需求,具有潜在的应用前景。     

深度神经网络模型数字水印技术研究进展综述

近年来,深度神经网络模型在各种应用领域都取得了巨大的成功,训练先进的深度神经网络模型仍需要大规模的数据集、高昂的算力成本和优异的算法思想,生成的深度神经网络模型成为一种宝贵的资源,也是完成人工智能应用领域某项特定任务的核心算法。因此,深度神经网络模型的安全则变得极其重要,利用数字水印版权保护技术保障模型的安全已经成为人工智能安全领域一个重要的研究方向。为了综述深度神经网络模型数字水印版权保护技术的最新研究进展,首先介绍了深度神经网络模型数字水印技术分类;其次介绍了深度神经网络模型数字水印版权保护技术基础概况;再次归纳总结了深度神经网络模型数字水印版权保护技术的研究方法;最后总结并展望了深度神经网络模型数字水印版权保护领域的研究重点和发展方向。