集成学习下的短期交通流预测

为了实现短期交通流的精准预测,在深度学习模型的基础上提出一种集成深度信念网格方法;通过考察交通流序列的高斯混合分布特性,加入高斯混合分布噪声进行数据优化,并采用Bagging集成学习的方法对各子深度信念网络进行集成,得到改进的深度集成信念网络模型。经实例演算,该模型比传统的反向传播神经网络、未经过集成的深度信念网络预测精度都要高,且经过高斯混合噪声优化的改进模型要优于未经过优化的深度学习集成模型。     

基于深度信念网络的岩石粒度分类

为提高地质研究中石粒度分析的识别精度,提出一种基于深度信念网络的分类方法,该方法通过深度信念网络模型自动提取图像特征、构建分类器,实现基于薄片图像的岩石粒度自动识别。使用来自鄂尔多斯某油田区域的4 800张岩石图像对深度信念网络进行训练,用其中1 200张岩石图像测试模型的准确性达到了94.75%。理论与实验综合分析结果表明,使用深度信念网络对岩石图像进行粒度分类能够得到更加准确、高效的分类结果。     

基于深度信念网络的天体光谱自动分类研究

把深度信念网络应用于天体光谱的分类.首先,使用小波变换对光谱数据进行降噪预处理,其次,采用PCA对光谱数据进行特征值提取降维,然后建立深度信念网络模型并构造分类器,最后使用该分类器对美国斯隆巡天项目的天体光谱数据进行激变变星的分类研究,并与受限波尔兹曼机网络进行了对比研究.由于深度信念网络对数据有深层次的学习能力,采用深度信念网络对天体光谱进行分类有一定优势.实验结果证明了分类方法的有效性.     

引入自适应学习率的深度学习模型及其应用

为了有效利用振动信号进行故障诊断,提出了一种基于自适应学习率的深度学习的行星齿轮箱故障诊断模型.针对深度信念网络(DBN)模型中学习率通常采用全局统一的常数型参数,提出了一种根据目标函数梯度的变化情况自适应调整学习率的DBN模型.采用学习率自适应调整的学习策略,能够加快DBN模型的迭代收敛速度,同时还能提高模型的识别准确率.将引入自适应学习率的DBN模型应用于行星齿轮箱故障诊断,直接通过原始振动信号实现行星齿轮箱健康状态的识别.实验结果表明:相比于其他特征提取、分类方法以及原始的DBN模型,提出的深度学习模型能够更有效地实现行星齿轮箱的故障诊断.     

基于ME-ANet模型的糖尿病视网膜病变分级

糖尿病视网膜病变(Diabetic Retinopathy，DR)是一种致盲率很高的眼科疾病。不同病变等级的视网膜图像之间差异小且病灶点分布无规律。针对现有深度模型对DR中的相似病灶点识别率低，严重影响模型分类精度的问题，本研究以深度学习为基础，构建新的模型架构进行训练，提出一种集成MobileNetV2和EfficientNetB0深度模型的注意力网络：ME-ANet。模型集成分为头部和主干两部分，将深度模型的浅层部分融合构成网络的头部，训练时采用迁移学习的策略对网络模型参数进行初始化，减少训练中的过拟合问题。主干部分利用上述两种模型的核心结构，设计3个阶段集成模块进行特征提取。同时设计全局注意力机制(Global Attention Mechanism，GAM)并分别嵌入到3个阶段的集成模块中。模型的改进加速了网络的收敛速度，该网络模型实现了对图像浅层信息的特征融合提取，减少了微病灶特征信息在训练过程中的卷积丢失问题，模型的分类精度进一步得到改善。通过模型集成构建特征提取主干网络，提高了模型对低级特征信息的学习，注意力机制抑制非病变特征信息，强化典型病灶特征学习，从而实现细粒度分类，进一步提升了模型的分类性能。     

CNN海况等级分类方法的性能

采用经典的LeNet网络对实测IPIX雷达数据、SPPR-50雷达数据、一型试验雷达数据通过多种组合方式进行交叉实验验证，分析训练集和测试集采用相同类型实测数据、不同类型实测数据时对分类准确率的影响，从而分析网络对雷达信号层数据处理的泛化能力。实验结果表明，不同类型的实测数据对分类准确率影响较为明显，并且当数据具有一定的相似性时分类效果显著。因此，在样本数据集不足时，可考虑通过迁移学习来加快并优化模型的学习效率，提高神经网络模型分类的准确率。     

基于HOG-CSLBP与深度学习的跨年龄人脸识别算法

针对人脸识别中识别精度低的问题,提出一种基于深度学习的跨年龄人脸识别算法.该方法创新性地将方向梯度直方图(Histogram of Oriented Gradient,HOG)和中心对称局部二值模式(Center Symmetric Local Binary Pattern,CSLBPS)组合方法用于人脸图像特征提取,获得包含结构和强度信息的图像融合特征,然后使用二叉树对特征信息进行降维,降维特征作为深度信念网络的可视层输入量,弥补深度新信念网络无法达到图像局部特征要求的缺陷.通过训练好的深度网络模型对测试样本进行学习,在深度信念网络的最顶层对特征进行分类识别.实验结果表明,该方法能高精度实现人脸识别,且与其他方法比较,该方法性能优于其他方法,说明该方法具有可行性和有效性.     

深度信念网在油井功图识别中的应用

针对油井功图识别中存在的一些问题,提出了一种基于深度信念网的油井功图识别方法。首先通过实验对比的结果确定网络结构,然后使用无监督学习的手段初始化网络权值,最后用有监督的误差反向传播算法微调整个网络,从而实现功图图像到油井工况之间的映射关系。实验结果表明:深度信念网能够自动学习功图特征,提高识别效率;与传统分类模型相比,使用深度信念网进行油井功图识别的过程更简便,更能够达到理想的效果。     

基于多重分形关联和深度CNN的常规雷达目标分类方法

针对传统分类方法中飞机雷达回波信号识别分类精度低、人工定义特征稳定性差的问题，提出基于多重分形关联特征和深度卷积神经网络(convolutional neural network,简称CNN)的雷达目标分类方法.首先，对输入训练数据进行多重分形关联分析，将多重分形关联谱的投影图作为输入特征图；然后，利用深度卷积神经网络对特征进行训练，得到训练模型；最后，使用训练后的模型对目标进行分类.实验结果表明：相对于其他3种方法，该文方法有更强的飞机分类性能.     

基于改进的长短期记忆网络的调制识别算法

自动调制分类技术是无线通信技术中的一个重要研究领域,卷积神经网络以及长短期记忆网络(Long Short-Term Memory,LSTM)两种深度学习模型在基于特征的自动调制分类技术中得到了广泛的应用.然而在实际应用中这两种模型都存在着一些问题,卷积神经网络模型在处理长时间依赖序列的分类任务时的准确率不佳,LSTM模型的时间性能会随着输入数据规模的增大显著下降.针对以上问题,提出一种基于带有注意力机制的LSTM网络的调制识别算法.首先,读取一定采样长度的信号原始数据,并通过长短期记忆网络提取信号特征;然后,利用注意力机制为学习到的特征分配权重以减少数据冗余;最后,分类器根据学习到的特征输出分类结果.仿真实验结果表明,新算法能以较低的时间代价取得较高的准确率.     

基于CNN网络的跳频信号个体识别

针对传统跳频信号指纹特征提取只是利用深度学习进行分类的问题,利用CNN网络特征提取的特性,实现了一种基于CNN网络的对预处理后的跳频信号实现特征提取和分类网络模型。首先将收集的跳频信号进行短时傅里叶变换转换到跳频信号敏感的频域,将跳频信号频谱图作为CNN网络模型的输入,CNN网络通过多层卷积提取信号频域深层次特征,通过Batch Normalization、Callback函数的优化加快了网络的收敛速度,同时防止了过拟合现象,最终输出跳频信号的识别分类结果。对比实验结果表明,CNN网络的分类识别正确率较以往的方法更高,在信号信噪比越大的情况下,识别效果越好。     

基于深度学习的混凝土表观病害智能分类器

为了更加精确地识别混凝土表观病害,首先收集了包含混凝土一般性病害、风化、露筋和裂缝四种表观病害的图片,利用图像处理技术对图像集进行了扩充;然后建立了深度残差网络模型,得到了混凝土四种表观病害的分类器;最后通过迁移学习对残差网络模型进行优化,得到最优分类结果.结果表明:该基于深度学习的混凝土表观病害分类器可以针对混凝土单个病害图像进行智能分类,经过迁移学习的优化,准确率达到了91.3%,对混凝土破损露筋病害的识别准确度达到了97.6%,可以满足实际工程中混凝土表观病害智能检测的需要.     

基于联合特征学习和多重迁移学习的肝脏病变分类

为了实现对不同肝脏肿瘤病变的精确分类,提出了一种基于联合特征学习和多重迁移学习的肝脏肿瘤病变分类方法.首先通过扩充通道的预处理方式对输入网络的图像进行数据增强处理,使得网络能从原始输入图像中提取到更多的特征信息;然后设计了联合特征学习双流卷积神经网络提取特征,避免由于网络深度增加造成部分特征信息丢失的问题;采用了集成分类器实现最终的分类,并通过多重损失约束方法对整个集成分类器进行约束优化;最后在模型的训练过程中结合参数迁移和域适应来减少损耗并提高模型的拟合性能.采用155张腹部平扫CT图像进行试验,设计了特异性、灵敏性、精确度、F1-score、准确率和误差率几种评价指标.结果表明,此方法能够实现对肝细胞癌(HCC)、转移性肝癌(MET)、血管瘤(HEM)以及正常肝脏组织的分类,平均分类准确率达到96％.     

基于深度信念网络的SDN的DDoS攻击检测模型

DDoS(分布式拒绝服务攻击)主要通过发送大量的数据与请求,导致目标主机被耗尽资源,从而使目标网络瘫痪.SDN环境下感染僵尸网络是一种常见的DDos攻击方式.深度信念网络既可以作为概率生成模型也可以作为判别模型,在实际领域有较多应用,如特征提取与分类识别.笔者提出基于深度信念网络的DDoS攻击检测方法,具有比传统机器学习方法检测精度更高的优势.     

基于注意力机制BiLSTM的设备智能故障诊断方法

状态监测与故障诊断是保证机械设备安全稳定运行的必要手段.本文提出一种基于注意力机制双向LSTM网络(ABiLSTM)的深度学习框架用于机械设备智能故障诊断.首先,将传感器采集的设备原始数据进行预处理,并划分为训练样本集与测试样本集;其次,训练多个不同尺度的双向LSTM网络对原始时域信号进行特征提取,得到设备故障多尺度特征;再次,通过引入注意力机制,对不同双向LSTM网络提取特征的权重参数进行优化,筛选保留目标特征,滤除冗杂特征,以实现精准提取有效故障特征;最后,在输出端利用Softmax分类器输出故障分类结果.通过利用发动机气缸振动实验数据和凯斯西储大学滚动轴承实验数据进行故障诊断实验,故障识别准确率均达到99%以上.实验结果表明,ABiLSTM模型可以实现对原始时域信号的多尺度特征提取和故障诊断,通过与深度卷积网络(CNN)、深度去噪自编码器(DAE)和支持向量机(SVM)等方法进行对比,ABiLSTM模型的故障识别性能优于各类常见模型.另外,通过利用凯斯西储大学滚动轴承在不同工况条件下的数据,对ABiLSTM模型进行泛化性能实验,变工况样本的故障识别准确率仍然能够达到95%以上.     

级联模型展开与残差学习的压缩感知重构

基于传统优化模型展开的深度网络由于集成了深度学习与传统优化方法的优点,具有良好的可解释性,在当前图像处理与计算机视觉领域得到广泛关注.提出了一种级联模型展开与残差学习的图像压缩感知重构深度网络框架,以实现重构图像质量的进一步改善.第一级的基于模型展开的深度网络根据输入的压缩测量值得到初始的重构图像,第二级的深度残差网络对初始重构图像进行去噪处理,最终得到高质量的重构结果.该两级级联网络的训练分别独立完成,训练过程简单易实现,将ADMM-Net与Res Net级联实现对磁共振图像重构,将ISTA-Net+与Res Net级联实现对自然图像重构.大量实验结果比较验证了所提出方法的有效性.     

基于深度卷积神经网络的弹道目标微动分类

针对传统弹道目标微动分类缺乏智能性及噪声条件下分类性能差的问题,利用深度学习的高维特征泛化学习能力,提出一种将深度卷积神经网络用于弹道目标微动分类的方法。首先,在建立弹道目标微动模型的基础上,分析3种微动形式下的微多普勒表示,并生成雷达回波信号的时频图,作为训练、验证及测试的数据集;然后,运用深度卷积神经网络中的迁移学习对AlexNet和GoogLeNet进行再训练;最后,利用训练后的网络实现3种微动形式下的目标分类,并研究信噪比对分类性能的影响。仿真结果表明,与传统的微动目标分类方法相比,该方法不仅智能化程度高,而且在低信噪比条件下分类准确性更强。     

基于线性判别深度信念网络的人脸表情识别

深度信念网络在人脸表情识别领域表现出很好的性能,但由于其最后一个隐层与分类层之间的初始权值矩阵通常随机生成,这样的权值矩阵不具有判别能力,从而导致经该权值矩阵映射得到的特征不能保证适合于分类任务。为了解决此问题,提出一种新的深度信念网络结构——线性判别深度信念网络,其对传统线性判别分析法进行改进,设计了一个新的类间离散度矩阵,解决了传统线性判别分析法中存在的秩限问题;使用改进的线性判别分析法初始化深度信念网络最后一个隐层和分类层之间的权值矩阵,使网络更适合于分类任务。本文提出的线性判别深度信念网络在JAFFE和Extended Cohn-Kanade人脸表情数据库上分别得到了78.26%和94.48%的识别率。     

基于注意力机制和双向长短期记忆网络的电能质量扰动识别

提出一种基于深度学习的电能质量扰动信号分类新方法。该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集。考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练和验证。实验结果表明,本方法能准确地识别不同的扰动信号,在验证集上模型的识别准确率可以达到99.7%。通过对比实验发现,应用注意力机制和双向长短期记忆网络的模型的识别能力要优于支持向量机和多层感知机等传统机器学习算法。     

基于深度集成朴素贝叶斯模型的文本分类

针对传统朴素贝叶斯算法属于浅层学习,其特征独立性假设易引起分类效果欠佳的问题,提出一种深度集成朴素贝叶斯模型;该模型受深度森林中集成思想的启发,将高斯朴素贝叶斯、多项式朴素贝叶斯、伯努利朴素贝叶斯3种浅层基分类器集成为具有深层学习结构的朴素贝叶斯模型。结果表明:提出的深度集成朴素贝叶斯模型不仅克服了浅层学习特征表达能力不足的问题,而且缓解了特征独立性假设的缺点;通过在经典文本分类数据集上的实验,证明了提出的深度集成朴素贝叶斯模型的精确率、召回率以及精确率与召回率的调和平均数F_1值显著增大,模型性能良好。