自归一化卷积神经网络的人脸识别方法

传统的卷积神经网络(CNN)在人脸识别中应用极为广泛,然而依然存在收敛速度慢的问题,需要进行批归一化,防止梯度弥散.而自归一化卷积神经网络比普通卷积神经网络收敛速度更快,且无需进行批归一化.因此,提出采用自归一化卷积神经网络来进行人脸识别.首先算法由2个卷积层,1个池化层,2个全连接层和1个Softmax回归层组成的自归一化卷积神经网络对人脸特征进行提取并分类;然后通过对不同批次大小和不同网络层数的实验对比找出最佳的实验条件;最后与传统CNN算法和其他算法对比.提出的方法在ORL数据库中的实验识别率可达到98.3%.实验结果表明,自归一化卷积神经网络比普通的卷积神经网络在人脸识别中具有更高的识别率、更快的收敛速度.     

基于卷积神经网络的壁面清洗机器人障碍物检测识别算法

结合机器人的工作原理以及卷积神经网络(CNN)在图像分类中的应用,提出了一种基于卷积神经网络的壁面障碍物检测识别算法.首先,以壁面障碍物准确识别为目标,构建壁面障碍物图像库;然后,通过对VGG-16网络简化后进行优化,得到适合壁面障碍物准确识别的卷积神经网络模型.在此基础上,设计该网络由输入层、4层卷积层、2层池化层、1层全连接层以及输出层组成,进一步利用3×3卷积核对训练样本进行卷积操作,并将所获取的特征图以2×2领域进行池化操作.重复上述操作后,通过学习获取并确定网络模型参数,得到最佳网络模型.实验结果表明,障碍物的识别准确率可达99.0%,具有良好的识别能力.     

基于实数编码遗传算法的多层神经网络BP算法

提出用实数编码的遗传算法来优化多层神经网络的权值,并且将遗传算法与ＢＰ算法结合,能有效地避免ＢＰ算法陷入局部极小和遗传算法过早收敛,实验结果令人满意。     

基于BTLBOGSA与CNN的基因微阵列数据分类模型

针对现有基因微阵列数据分类中存在的数据维度高、容易发生过拟合的问题,提出了基于BTLBOGSA(Binary TLBOGSA)与卷积神经网络(Convolutional Neural Network,CNN)的基因微阵列数据分类模型(BTLBOGSA-CNN)。该模型首先针对基因微阵列数据分类时存在的数据维度高的问题,利用新的编码策略,将连续搜索空间转换为二元搜索空间,结合教与学优化(Teaching-Learning-Based Optimization,TLBO)算法的二元变体与引力搜索算法(Gravitational Search Algorithm,GSA)的各自特点,基于BTLBOGSA方法从基因微阵列数据集中选择具有高鉴别性的基因;然后针对基因微阵列数据分类易发生过拟合问题的现象,利用卷积神经网络进行基因微阵列数据的分类。利用公开的基因微阵列数据集进行仿真实验,从TLBO算法与GSA结合的有效性、BTLBOGSA与CNN结合的有效性、BTLBOGSA-CNN与其他已有分类模型相比的有效性3个方面进行对比分析,结果表明,BTLBOGSA-CNN模型可以在较少的特征基因下取得较高的分类精度,具有较高的可行性和有效性。     

基于混合编码的遗传算法在神经网络优化中的应用

提出了一种结合浮点数编码与二进制编码的混合编码遗传算法,该算法在同一条染色体上同时使用浮点数编码与二进制编码,有机结合了两者的优点,并与BP算法结合用于优化神经网络的结构和系数,获得具有更好泛化能力的神经网络.仿真实验结果证实了这种混合编码遗传算法的有效性和优越性能.     

多宇宙并行量子遗传神经网络人脸识别算法研究

针对传统遗传算法交叉、变异过程过于繁琐和神经网络在极值判断及收敛速度受限等问题,提出了一种并行的量子遗传算法优化神经网络权值的算法.首先引入了量子计算的概念,在量子计算的过程中使用量子旋门实现染色体的训练,然后引入量子交叉克服了早熟收敛现象,避免了遗传算法中繁琐的交叉、变异过程.最后设计实现了并行的卷积神经网络,使用并行量子遗传算法优化了卷积神经网络权值,实现了并行量子遗传神经网络人脸识别系统.实验结果表明,相对于原来的遗传算法,该算法在鲁棒性和实验速度上都有明显的提高.     

基于卷积神经网络的数字识别

为了解决银行、邮局等场合的实时数字识别问题,提出了一种优化的卷积神经网络(Convolutionnal Neural Network,CNN)数字识别方法。以Lenet-5模型为基础改进了卷积神经网络结构并推导了改进后的前向和反向传播算法,将改进的卷积神经网络在手写、印刷数字组合数据库上进行测试,分析了不同样本数量、训练迭代次数等参数对识别准确率的影响,并与传统算法进行比较分析。结果表明改进后的CNN结构简单,处理速度快,识别准确率高,具有良好的鲁棒性和泛化性,识别性能明显高于传统网络结构。     

基于级联卷积神经网络的人脸关键点定位

由于人脸姿态、表情、遮挡物、光照问题的影响,人脸关键点检测时通常会出现较大的误差,为了准确且可靠地检测关键点,提出了一种基于级联卷积神经网络的方法。利用人脸检测器检测到的人脸图像作为输入,第一层卷积神经网络直接检测所有的5个人脸关键点。随后根据这些检测到的点裁剪出5个人脸局部图像,级联的第二层网络使用5个不同的卷积神经网络单独地定位每个点。在实验测试环节,级联卷积神经网络方法的使用将人脸关键点的平均定位误差降低到了1.264像素。在LFPW人脸数据库上的实验结果表明:该算法在定位准确性和可靠性上要优于单个CNN的方法以及其他方法,该算法在GPU(图形处理器)模式下处理一个人脸图像仅需15.9毫秒。     

基于CNN和LSTM的图像隐写分析

为了进一步降低隐写分析算法的检测错误率，文章提出一种基于卷积神经网络(convolutional neural network, CNN)和长短期记忆网络(long short-term memory, LSTM)的隐写分析算法。该算法利用CNN捕获载体图像的结构特征，同时利用LSTM捕获图像的前后时序特征。为了验证混合神经网络的有效性，该算法以XuNet和SRNet为基准隐写分析网络，探讨CNN与LSTM的有效组合方式。实验结果表明，所提方法可以有效提高隐写分析算法的检测能力。     

基于卷积神经网络的多天线Polar码联合解调-解码方案

为了验证运用神经网络进行信道解码的可行性,利用其提高短码长Polar码的译码准确率,提出了一种基于卷积神经网络(convolutional neural network,CNN)的多天线(multiple-input multiple-output)Polar码新颖联合解调-解码方案.搭建了一种包括4个卷积层,2个全连接层和1个输出层的卷积神经网络,采用最小均方误差作为损失函数,通过计算机生成了Polar码编码的多天线数据并对网络进行训练,使训练得到的神经网络能很好地提取出Polar码比特间的关系特征,从而拟合出Polar码译码函数.仿真结果表明,在相同信噪比条件下,基于CNN的Po-lar码联合解调-解码方案的误码率优于已有的基于全连接神经网络方案;所提方案在不同码率的仿真实验中的误码率皆优于基于全连接神经网络方案,损失曲线的收敛速度更快,显示了基于CNN的Polar码联合解调-解码方案具有更好的泛化能力和学习能力.     

基于改进遗传神经网络的微硅加速度传感器动态补偿研究

比较遗传算法与神经网络的特点, 并对将遗传算法用于函数连接型神经网络(FLNN)的优点进行了研究.对遗传算法的编码方法、交换和变异操作做了改进,提出了一种融合改进遗传算法的FLNN用于微硅加速度传感器动态性能补偿的新方法.该方法不依赖于传感器的动态模型, 可根据传感器的动态响应数据, 建立补偿模型,采用改进遗传神经网络搜索和优化补偿模型参数,既保留了遗传算法的全局搜索能力,又具有神经网络的鲁棒性和自学习能力.介绍补偿原理及算法, 给出动态补偿网络的数学模型.结果表明, 该补偿方法能克服FLNN收敛速度慢、容易陷入局部极小的缺陷,具有网络训练速度快、实时性好、良好的全局搜索能力、精度高、鲁棒性好及动态补偿器实现简单等优点.     

基于单隐层前馈神经网络的优化算法

前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。     

基于改进遗传算法的BP神经网络及应用

结合遗传算法及神经网络各自的优点,利用改进遗传算法对BP神经网络的连接权进行优化,并提出了一种新的编码方式.通过与时间序列模型对比,基于改进遗传算法的BP模型效果更好.     

基于卷积神经网络的细胞图像分割与类型判别

组织细胞图像形态各异、大小不一、纹理变化多样等特点,导致难以精准地分割细胞区域的问题,对此提出了一种基于卷积神经网络(CNN)和边缘聚类方法的新算法.对原始切片采用染色校正预处理,提高色彩对比度,利用CNN得到初步分割结果,结合边缘聚类方法提升初步分割结果的连续性和完整性.在此基础上,结合计算机视觉技术,获得分割图像中细胞颗粒的基本属性特征,并使用Softmax分类器判别细胞类型.实验结果表明:相较于经典的卷积神经网络、阈值分割、模糊聚类等细胞图像分割算法,该算法在分割结果的完整度方面提升了6.15个百分点.     

一种简洁高效的加速卷积神经网络的方法

卷积神经网络是机器学习领域一种广泛应用的方法,在深度学习中发挥着重要的作用。由于卷积神经网络一般需要多个层,而且训练数据通常都很大,所以网络训练可能需要几小时甚至很多天。目前虽然有一些利用GPU加速卷积神经网络训练的研究成果,但基本上都是实现方式复杂,需要技巧很高,而且容易出错。提出了一种简洁、高效的加速卷积神经网络训练的方法,其主要过程是将卷积层展开,这样卷积层和全连接层的主要训练步骤都可以用矩阵乘法表示;再利用BLAS库高效计算矩阵乘法。这种方法不需要过多考虑并行处理的细节和处理器的内核特点,在CPU和GPU上都能加速。实验证明,GPU上使用该方法比传统的CPU上的实现快了100多倍。     

一种新的全局优化算法——统计归纳算法

在多极值问题的优化领域 ,主要有模拟退火算法(SA) ,遗传算法 (GA) ,人工神经网络 (ANN)算法 ,它们都是基于对自然现象模仿的算法。该文从更基本的优化思想出发 ,基于概率论提出了一种新的全局优化算法——统计归纳算法 (SIA)。在一些标准测试函数以及“货郎担问题”(TSP)上的计算结果表明 ,该算法在智能性 (所需的函数计算次数 )和解的全局性方面都远远好于 SA和 GA。在中国 144个城市的 TSP问题实例中 ,它甚至很快就找到了比参考计算中给出的“目前已知的最优路径”更短的路径。从这一算法思想的角度 ,阐述了 SA和 GA为何对全局优化问题有效 ,以及SA和 GA各自固有的不足之处     

基于双层卷积神经网络的步态识别算法

提出运用双层卷积神经网络模型实现基于足底压力图像的步态识别方法.首先,对足底压力数据采集系统采集的图像作相应预处理;然后,用双层卷积神经网络模型学习得到足底压力图像的单层和双层卷积特征;最后,将卷积特征训练分类器得到分类结果.实验结果验证了该算法的有效性.     

基于遗传算法和模拟退火算法优化神经网络的铁路营业里程预测

提出应用遗传算法(GA)和模拟退火(SA)优化神经网络预测铁路营业里程.采用3层前馈神经网络实现铁路营业里程的时间序列预测,输入节点数为5,隐层节点数为8,输出节点数为1.对神经网络的连接权重和节点阈值的确定,采用GA和SA算法相结合的混合优化学习策略.两种算法结合时,SA算法处于外层,GA处于内层.GA采用实数编码,把要确定的神经网络节点连接权重和节点阈值作为基因串.数值计算结果表明混合优化的神经网络的学习速度和精度都比单纯BP算法得出的结果好.因此,用GA-SA混合优化的神经网络预测铁路营业里程是可行的.     

基因算法辅助人工神经元网络的结构设计

提出了以基因算法为基础的人工神经元网络结构设计基础。首先从连接权的演化入手,研究了基因算法的实现过程。在结构设计中,提出了稀疏化的编码方法。仿真结果表明这种优化方法对于神经网络的选取是有效的。     

Land cover classification of RADARSAT-2 SAR data using convolutional neural network

In this paper, we propose a convolutional neural network (CNN) based on deep learning method for land cover classification of synthetic aperture radar (SAR) images. The proposed method consists of convolutional layers, pooling layers, a full connection layer and an output layer. The method acquires high-level abstractions for SAR data by using a hierarchical architecture composed of multiple non-linear transformations such as convolutions and poolings. The feature maps produced by convolutional layers are subsampled by pooling layers and then are converted into a feature vector by the full connection layer. The feature vector is then used by the output layer with softmax regression to perform land cover classification. The multi-layer method replaces hand-engineered features with backpropagation (BP) neural network algorithm for supervised feature learning, hierarchical feature extraction and land cover classification of SAR images. RADARSAT-2 ultra-fine beam high resolution HH-SAR images acquired in the rural urban fringe of the Greater Toronto Area (GTA) are selected for this study. The experiment results show that the accuracy of our classification method is about 90% which is higher than that of nearest neighbor (NN).