深度学习在图像识别中的应用

深度学习通过建立深层神经网络来模拟人脑进行分析、学习和解释数据,被广泛用于图像识别领域.首先,简述了深度学习在图像识别中的研究现状;其次,介绍了卷积神经网络、深度置信网络、循环神经网络和生成对抗网络等几种常用于图像识别领域的深度学习网络模型;然后,从人脸识别、动作识别、跌倒检测等方面,论述了深度学习在图像识别领域的典型应用;最后,探讨了该领域的研究难点及发展前景.深度学习可以从不同的图像中自动提取相似的特征并进行分类,识别率高,鲁棒性强,推动了人工智能背景下图像识别的发展.无监督学习、对抗网络等将成为深度学习领域的热点.     

基于深度学习的通信网络数据关键特征挖掘

深度学习是挖掘数据关键特征的重要技术手段,为准确分析通信网络数据特征,并保障质量,提出基于深度学习的通信网络数据关键特征挖掘方法。选取接入率、可用性以及覆盖率等七个指标作为通信网络质量核心性能指标,将卷积神经网络与径向基神经网络相结合,构建深度学习网络结构,将该性能指标作为标签参数,将所得到的标签参数的聚类与求和结果作为深度网络的标签数据,通过前向传播将标签数据输入卷积神经网络的输入层内,经过不同隐层的变换与映射至输出层位置,并采用量子粒子群算法求解深度学习网络最优参数,输出通信网络数据关键特征挖掘结果。经实验结果表明,所提方法的通信网络数据关键特征挖掘率在95%以上,能够准确预测未来短时间段内的通信网络质量。     

基于长短时记忆(LSTM)神经网络的黄河中游洪水过程模拟及预报

洪水预报是防洪减灾的重要非工程措施,黄河中游地区水文情势近50 a发生显著变化,为提高变化环境下黄河中游半干旱半湿润地区洪水预报精度,本文以对时间序列数据具有良好模拟效果的深度学习神经网络(长短时记忆神经网络)为基础,建立不同预见期下的流域暴雨洪水模型,以探讨长短时记忆神经网络在黄河中游水文预报中的应用.模型建立采用汾河上游静乐控制站1 956—2014年98场暴雨洪水数据,其中以14个站点降雨及静乐站水文数据作为输入,不同预见期下的洪水过程作为输出,率定期为78场次,验证期为20场次.结果显示:在预见期为0～6 h时预报精度较高,预见期为6 h以上时预报效果相对较差;预报精度随神经元数量和训练次数的增加而呈上升趋势,预见期为0～6h时预报精度上升较为明显,而预见期6 h以上时预报精度上升较为均匀.     

基于深度学习处理框架的神经网络压缩方法研究

以深度学习为代表的人工智能领域在最近10年得到了迅猛发展，人工智能的算法、模型得到了越来越多的关注及应用。近年来，深度学习算法规模的快速增长使得如何构建高能效深度学习处理器成为了当前深度学习研究的一大挑战。现有的研究工作主要从软件算法和硬件架构2个层面开展，并通过软硬件协同进行优化空间的拓展。将从算法和架构协同的角度，介绍如何使用稀疏推理和量化训练2种神经网络压缩方法提供相应的硬件架构支持，为构建高能效深度学习处理器提供解决方案。     

推荐系统研究综述

随着互联网技术的快速发展,如何对海量网络信息进行挖掘分析,已成为热点和难点问题。推荐系统能够帮助用户在没有明确需求或者信息量巨大时解决信息过载的问题,为用户提供精准、快速的业务(如商品、项目、服务等)信息,成为近年来产业界和学术界共同的兴趣点和研究热点,但是,目前数据的种类多种多样并且应用场景广泛,在面对这种情况时,推荐系统也会遇到冷启动、稀疏矩阵等挑战。深度学习是机器学习的一个重要研究领域和分支,近年来发展迅猛。研究人员使用深度学习方法,在语音识别、图像处理、自然语言处理等领域都取得了很大的突破与成就。目前,深度学习在推荐领域也得到了许多研究人员的青睐,成为推荐领域的一个新方向。推荐方法中融合深度学习技术,可以有效解决传统推荐系统中冷启动、稀疏矩阵等问题,提高推荐系统的性能和推荐精度。文中主要对传统的推荐方法和当前深度学习技术中神经网络在推荐方法上的应用进行了归纳,其中传统推荐方法主要分为以下3类:1)基于内容推荐方法主要依据用户与项目之间的特征信息,用户之间的联系不会影响推荐结果,所以不存在冷启动和稀疏矩阵的问题,但是基于内容推荐的结果新颖程度低并且面临特征提取的问题。2)协同过滤推荐方法是目前应用最为广泛的一种方法,不需要有关用户或项目的信息,只基于用户和诸如点击、浏览和评级等项目的交互信息做出准确的推荐。虽然该方法简单有效但是会出现稀疏矩阵和冷启动的问题。3)混合推荐方法融合了前2种传统推荐方法的特点,能取得很好的推荐效果,但在处理文本、图像等多源异构辅助信息时仍面临一些挑战与困难。依据神经网络基于深度学习的推荐方法主要分为4类:基于深度神经网络(DNN)的推荐方法、基于卷积神经网络(CNN)的推荐方法、基于循环神经网络(RNN)和长短期记忆神经网络(LSTM)的推荐方法、基于图神经网络(GNN)的推荐方法、将深度学习技术融入到推荐领域,构造的模型具有以下优势:具有较强的表征能力,可以直接从内容中提取用户和项目特征;具有较强的抗噪能力,可以轻易地处理含有噪声的数据;可以对动态或者序列数据进行建模;可以更加精准地学习用户或项目特征;便于对数据进行统一处理,并且可以处理大规模数据。将深度学习技术应用到推荐领域,可以积极有效地应对传统推荐方法面临的挑战,提高推荐效果。     

基于深度神经网络的交通出行方式选择模型

由于自身的局限性,传统的交通出行方式选择模型不能很好地发挥大数据的作用,而深度学习在大数据分析领域具有广阔的应用前景.建立基于深度神经网络的出行方式选择预测模型,运用随机梯度下降算法、丢弃法等解决层数加深后导致的过拟合问题;利用广州市居民出行调查数据对模型进行训练和测试.结果表明,该模型具有较高的测试精度和泛化能力.     

基于深度学习的农作物病虫害研究进展

病虫害严重影响农业和环境的可持续发展,导致农作物产量损失和品质下降。深度学习技术为病虫害识别和防治提供了新方法,在识别准确率和效率方面呈现出独特优势。在归纳总结深度学习技术发展历史、算法的优缺点基础上,探讨其在农作物病虫害研究中的应用现状、存在的问题和发展趋势。CNN(convolutional neural networks)架构是病虫害识别的核心技术,基于迁移学习的深度学习技术是研究热点。为加快深度学习技术在农业领域的应用,促进智慧农业的发展,应加快建设农作物病虫害数据集、优化深度学习架构、搭建移动平台、研究单一和混合病虫害图像分割技术、融合无人机和卫星遥感影像与地面观测数据,实现大面积农作物病虫害的识别与检测。通过深度学习技术在农作物病虫害识别中的应用,可以在保护生态平衡的基础上加强对病虫害防治,保障农作物的产量和质量。     

基于改进果蝇算法和长短期记忆神经网络的油田产量预测模型

产量预测是油田生产动态开发研究的重要内容之一。油田的长期生产积累了大量数据,但是波动幅度很大,直接应用长短期记忆神经网络预测油田的生产指标,会出现神经网络泛化性很差的问题。因此,首先利用双层长短期记忆神经网络(long-short term memory,LSTM)和随机式失活对神经网络架构进行调整,建立了深度学习神经网络模型;并提出了一种新的果蝇聚集方法,通过改进的果蝇优化算法对所建立的神经网络模型进行优化,避免其陷入局部最优解,搜寻解空间的最优解;最后,油田实例验证表明,优化后的深度学习网络的网络泛化能力和预测精度有了较大提高,对于油田波动性较大的数据也能较好地拟合。所建立油田产量预测模型可应用于矿场开发实际。     

基于深度神经网络的中期电力负荷预测

电力负荷预测的精确度对于电厂的实际发电量、配电、系统维护以及与电价相关的能源供应商运营计划等都有着极大地影响;研究了前馈深度神经网络和递归深度神经网络在中期电力负荷预测中的应用及其准确性和计算能力分析;首先,针对收集的原始数据集进行预处理,提出了一种时域-频域分析特征提取方法,该方法可以充分地挖掘隐藏在原始数据集中的深层信息;然后利用前馈深度神经网络和递归深度神经网络模型进行中期电力负荷预测;最后,利用某城市5年期间的实际负荷数据,预测未来1年中不同季节的负荷;通过仿真结果表明:时域-频域分析法和深度神经网络协同使用于中期负荷预测具有更高的准确性。     

基于多层神经网络的智能家居入侵检测方法

依托物联网技术的智能家居面临多重信息安全风险,现有智能家居入侵检测方案存在难以处理大量高维度数据、检测率低、误检率高、依赖经验确定网络层数等问题。提出一种融合深度学习与模糊神经网络的多层神经网络入侵检测方法;基于深度学习完成数据特征的学习,将高维数据映射为低维数据;基于网络重构误差训练并优化确定网络深度。仿真测试结果表明,该方案可有效提高对攻击行为的检测准确率和检测效率;针对远程非法访问的检测率可达到94%,对拒绝服务攻击的检测准确率可达96%,对网络中新型攻击的检测率超过60%。     

基于深度学习算法不同数据集的地震反演实验

近年来，人工智能中的深度学习技术在地震数据处理、反演和解释领域显示出许多优势。以往的研究表明，深度学习与地震反演相结合的方法比传统方法更有效。利用深度学习技术有可能得到更高分辨率的结果，这对油藏开发至关重要。通过设计地质模型进行采样以获取不同大小数据集，基于卷积神经网络（CNN）研究了不同训练数据集的地震反演应用效果，实验表明，该神经网络的预测精度在一定范围内随训练集的增加而增加，得到了对神经网络模型构建的关键数据集大小占全数据集的比例。此外，通过对地震数据加入不同比例的噪声并对CNN进行训练，结果表明本文所设计的CNN具有良好的抗噪和泛化能力。     

李群特征的深度学习算法研究（英文）

由于真实世界中的复杂数据经常能够被表示成李群结构,文章设计了一个以李群特征作为输入的深度网络架构,以此利用深度学习强大的特征表示能力来进行模式识别等任务。在构建李群深度神经网络的过程中,为了保证在优化时李群特征能够被限定在微分流形的结构上,提出了适用于李群特征的深度学习算法。算法在特征学习的过程中不仅能够保证不损失数据流形结构的信息,同时也限定了参数优化的假设空间。基于李群特征的深度学习算法在CIFAR-BW和MNIST数据集上,通过为静态图像设计辐条模型的李群特征,实验结果表明算法在较少次数的迭代下就能够收敛到较为理想的结果。     

深度学习技术及其故障诊断应用分析与展望

"大数据"时代给机械设备智能诊断带来了数据总量大、产生速度快、形式多、价值密度低等新挑战,传统智能故障诊断"人工特征提取+模式识别"的模式已然不能满足发展需求。本文分析了机械大数据的特性对故障诊断结果的影响,详述了堆叠自编码网络(SAE)、卷积神经网络(CNN)、深度置信网络(DBN)、循环神经网络(RNN)4个基本框架和其他深度学习模型在故障诊断领域,尤其是复杂机械数据的特征学习和各种机械设备健康监控任务的目标预测等相关研究。分析了不同模型的利弊和适应问题:SAE与DBN属于无监督学习模型,对数据要求较低,具有强大的特征提取能力,但性能难以保障;CNN在高维数据处理上优势明显,但训练迭代次数较多;RNN可以处理变化的时序数据。文中分析指出机械大数据下深度学习存在的问题:包括机械数据不平衡、来源分散;应用模式简单,缺乏对网络本身性能的分析;机械式引进较多,缺少适应性改造;学习处于"黑箱"阶段,无法解释等。最后,讨论了应对问题的有效措施并对深度学习未来的发展趋势进行展望。     

一站式深度学习智能平台的设计与实现

深度学习平台对人工智能的发展起着重要的推动作用,然而,目前的深度学习平台存在使用门槛高或者缺乏个性化支持的问题.设计并实现了一站式深度学习智能平台NKI,对不同用户群体提供了全方位的支持和服务.通过拖拽式模型构建、经典算法复用和神经架构搜索算法,NKI让初学者能够在短时间内完成深度学习模型的构建、训练和应用,无需深入学习复杂的编程技术;对于算法专家,NKI提供了更多个性化的选择,如根据自身需求定制组件和数据集、进行在线数据预处理、以及直接执行深度学习代码等,这种高度定制化的服务使得深度学习专业人士能够更灵活地应对各种复杂任务,满足不同领域的需求.NKI是一个多层次、多功能的低代码深度学习平台,旨在促进深度学习技术的普及,让不同背景和技能水平的用户都能轻松地应用深度学习技术.     

我们还需要前馈神经网络技术？

定义了前馈核神经网络的体系结构。从实际应用的需求出发。所定义的网络涵盖了目前多数前馈神经网络。从理论上证明了该网络的批量学习过程实际上所表达的是一种核学习机,进而证明了网络的学习仅需在最后一层实施即可,而在隐含层的参数可任意赋值。因此,该结论事实上是现有LLM及ELM的拓广。同时,发现在逼近精度要求不是太高的情况下,目前的前馈神经网络学习技术因过于繁琐而没有必要,仅需对网络最后一层进行学习即可。而前馈神经网络技术目前最前沿的应用是解决大样本及深度知识表达问题。针对这两个热点问题,分别提出了大样本下的廉价学习策略和深度知识挖掘下的灵巧学习策略。在此,作者希望该文能引起广泛讨论甚至争论。     

融于图像多特征的路面裂缝智能化识别

路面裂缝形状不规则复杂程度高。传统路面裂缝识别技术需要对路面图像进行复杂预处理工作进行识别,不能自动化对路面裂缝图像进行分类。为提高对路面裂缝识别精度和效率,本文将基于深度学习方法提出一种自动识别路面裂缝并能减少图像预处理工作量的方法。首先,将原始图像切割为小样本图像,根据图像多特征进行分类,各选取相同类型样本2000张图像构建数据集;其次,利用双线性内插法对裁剪后图像进行上采样,凸显图像特征便于神经网络学习;最后,使用深度学习神经网络对训练样本进行特征提取训练模型。实验结果表明：ResNet101模型评估指标均优于其他深度学习模型和机器学习模型,模型测试精度达0.898,kappa系数为0.815。     

深度神经网络内部迁移的信息几何度量分析

使用深度神经网络处理计算机视觉问题时,在新任务数据量较少情况下,往往会采用已在大数据集上训练好的模型权值作为新任务的初始权值进行训练,这种训练方式最终得到的模型泛化能力更好.对此现象,传统解释大多只是基于直觉分析而缺少合理的数学推导.本文将深度神经网络这种网络结构不变下层间的学习转为深度神经网络内部的迁移能力,并将学习过程变化形式化到数学表达式.考虑数据集对训练过程带来的影响,利用信息几何分析方法,确定不同数据集流形之上的度量和联络,实现不同数据集之间的嵌入映射,同时将参数空间的变化也放入流形空间,探究其对学习过程的共同影响,最终实现对这种内部迁移现象的数学解释.经过分析和实验验证可得内部迁移过程其实是一种能使网络可以在更广空间进行最优搜索的变化,有利于模型可以在学习过程中获得相对的更优解.     

基于卷积神经网络的入侵检测算法

作为深度学习的一种有效算法,深度卷积网络已成功应用在处理图像、视频和音频等领域.通过建立一卷积神经网络模型并应用于网络入侵检测,选取的卷积核与数据进行卷积操作提取特征的局部相关性从而提高特征提取的准确度.采集到的网络数据通过多层"卷积层-下采样层"的处理对网络中正常行为和异常行为的特征进行深度刻画,最后通过多层感知机进行正确分类.KDD 99数据集上的实验表明,文中提出的卷积神经网络模型与经典BP神经网络、SVM算法等相比,有效提高了入侵检测识别的分类准确性.      

输油管道泄漏检测技术综述

为进一步改善输油管道泄漏的检测方法, 概述了目前一些常用的输油管道泄漏检测方法, 如直接检测 法、 负压波检测法和基于神经网络的检测方法等。 分析了这些检测方法在应用时的优缺点。 然而, 随着对输油 管道泄漏检测要求的提高, 这些检测方法不能满足人们的要求, 仍需要进一步改善。 同时, 将深度学习引入了 输油管道的泄漏检测中。 深度学习是在神经网络基础上的进一步发展, 它在许多方面上的应用弥补了该应用 基于神经网络方法存在的不足。 其中, 深度学习已经在图像和语音识别应用中取得了成功。 这些情况为以后 将深度学习应用于输油管道的泄漏检测提供了部分理论支持。     

一种使用神经网络的网吧身份识别方法

随着深度学习技术的成熟,使用神经网络的人脸识别在公共安全等领域扮演着越来越重要的角色,对提升公共场所管理水平具有重要意义。对此,根据神经网络模型提出了一种网吧身份识别算法,该算法根据数据稠密程度分为3种应用模式:1∶1模式使用了多特征融合分类算法; 1∶All模式使用了2-channel卷积神经网络算法; 1∶N模式使用了循环神经网络算法。模型能够解决人脸识别中系统"冷启动"、计算开销过大、人脸随时间逐渐变化等问题,对于网吧"实名制"管理的规范化和智能化有着十分重大的意义。