多层人工神经网络合理结构的确定方法

隐层结构如何选择是多层人工神经网络应用中一个关键问题·基于多层神经网络优化算法原理和非线性方程理论,建立了多层神经网络计算输出和理想输出关系的非线性方程组,分析了权阈变量、标准样本数量和输出层单元数量的内在关系,给出隐层层数和每个隐层单元数量选取应该满足的基本条件·提出多层神经网络合理结构,即隐层层数和每个隐层单元数量选取的一般原则,给出隐层结构定量求解的直接计算方法和间接优化计算方法·对具体算例进行了合理结构分析,通过神经网络优化算法对多种结构组合比较,表明所提出的合理结构分析方法的正确性·这种方法将为多层神经网络在工程应用中如何选取合理结构提供理论依据和选取有效方法·     

基于子空间分析的前馈神经网络隐层评测方法

针对最佳平方逼近3层前馈神经网络模型,采用子空间分析方法,讨论了隐单元的误差补偿性能,提出了隐层评测方法.研究结果表明隐单元选取策略应遵循其输出向量有效分量位于误差空间、回避耗损空间和尽可能靠近某一能量空间的原则,这一结果与隐单元采用什么激发函数无关,也允许各隐单元采用不同激发函数.网络的隐层性能评价可以通过隐层品质因子、隐层有效系数、隐单元剩余度来进行,而总体结果可采用隐层评价因子进行评测.评测实验表明,所提出的隐层评测方法是合理有效的.图1,表1,参11.     

基于剪枝极限学习机的表情识别

为了缩短神经网络方法在人脸表情识别训练阶段所消耗的时间,提出了一种基于剪枝极限学习机的人脸表情识别方法.该方法随机为输入层与隐层单元间的连接分配权重,并以此求出相应的隐层单元与输出单元之间的连接系数,以达到一次性确定神经单元间系数的效果,避免了深度学习和神经网络因反复修改网络系数造成的高耗时;接着利用隐层单元与分类结果的相关性,删掉那些相关性较低的隐层单元,从而自动构建网络结构;通过多次迭代选取分类结果最好的网络参数作为最终的网络参数;最后构建多个极限学习机,用投票机制实现最终的分类.实验结果表明,该方法在特定人脸识别和非特定人脸识别都能得到较好的识别率,且大大降低了训练所用时间.     

多层前馈神经网络隐单元数目上界的证明

研究前馈神经网络隐单元数目的上蜀和如何利用样本集的特性减少所需的隐单元个数。利用Ｓｉｇｍｏｉｄ函数的两端极限特性,使每个隐单元表示１～２个样本。在样本集具有局部单调性的情况下,可以用有〖（ｐ－１）／２〗个隐单元的３层前馈神经网络以任意小的误差表示ｐ个目标值。对一般的样本集,所需的隐单元数为〖（ｐ－１）／２〗～（ｐ－１）个。     

神经网络训练的分解重组算法

本文介绍了把线性不可分问题分解为一系列线性可分子问题、对线性不可分问题进行求解的网络分解重组算法．还证明了该算法的收敛性．实例研究表明：该算法不仅可以得到神经网络的隐层空间目标和隐层单元数，而且提高了对线性不可分问题的求解速度，因此是一个非常有效的神经网络训练算法．     

一种基于覆盖超球算法的径向基概率神经网络结构优化

介绍了径向基概率神经网络(RBPNN)的一种启发式结构优化算法.该算法首先提出一种移动平均中心超球覆盖算法,并用于初选径向基概率神经网络的隐中心矢量,然后使用遗传算法进一步优选隐中心矢量,同时优化核函数控制参数.实验结果表明,该算法在实际应用中能够加快优化速度,降低计算复杂度,有效地简化RBPNN模型的结构.     

子波基神经网络及其建模

将神经网络与子波理论结合，构成新型的神经网络结构－子波基神经网络，不同于一般前向神经网络的是该网络的隐层单元的激活函数为不同尺度下的子波函数，该网络具有良好的副近非线性的能力，本文将其应用于非线性系统建模。     

一种新的RBF神经网络学习算法

本文提出一种改进的RBF神经网络学习算法,它利用减聚类算法确定隐层单元的数量,并用修剪的办法删除冗余单元,避免了传统的K聚类算法对隐层单元数量确定的盲目性。利用最小二乘法确定隐层和输出层之间的权值。在对非线性函数进行逼近的仿真中,验证了该算法的有效性。     

一种基于神经网络算法的非线性PID控制器

针对非线性、不确定时滞对象,提出一种基于神经网络算法的非线性PID控制器。该控制器将传统PID的比例、积分和微分参数分别构造成关于误差信号的非线性函数,并将非线性比例运算单元、非线性积分运算单元和非线性微分运算单元分别作为隐层神经元的激励函数,从而构造将PID控制与神经网络控制融为一体的智能控制器。研究结果表明:采用此智能控制器有效解决了传统PID难以控制非线性对象的问题以及传统神经网络控制器隐层神经元节点数难以确定的问题,仿真结果验证了该智能控制器的有效性。     

基于BP神经网络特定学习的单级倒立摆控制方法

利用BP神经网络的特定学习算法，以单级倒立摆为控制对象设计一个四输入／单输出、包含5个隐层单元的3层BP神经网络控制器，提出一种新的单级倒立摆控制方法，然后通过Matlab6．5数值计算软件对这种新的单级倒立摆控制方法进行仿真．仿真结果表明，该方法具有较好的收敛性，是一种有效的控制方法．     

概率神经网络回归、判别与聚类

本文基于相同结构的概率神经网络,提出了使其具有回归、判别与聚类功能的不同权重学习算法以及通用变元最优选择方法.该网络具有结构和学习算法简单、收敛速度快、易于软件模拟实现等优点,并可方便地应用于预报、控制、决策等领域.     

基于概率神经网络的悬索桥损伤定位研究

概率神经网络(下称PNN)以贝叶斯概率方法描述测量数据,因而PNN可以在有噪声情况下进行结构损伤检测·提出了运用传统PNN和自适应PNN进行结构损伤检测的方法与基本原理,并分别用两种PNN模型进行了悬索桥的损伤定位研究,还讨论了测量噪声对识别精度(IA)的影响·研究发现,运用自适应PNN进行损伤定位效果极大地优于传统PNN,且随着噪声程度的增大,IA减少     

基于概率神经网络的锋电位实时分类算法

为了实现便携式实时处理的实用型脑-机接口(BMI),提出了一种基于概率神经网络(PNN)的锋电位信号实时分类算法,并完成了该算法基于现场可编程门阵列(FPGA)的实现.该算法通过训练数据的快速导入完成PNN的训练,再由PNN实现锋电位的分类工作.文中通过调用FPGA片上DSP48Es资源实现单精度浮点的乘加运算,采用并行流水结构加速向量间距离的计算,通过查找表和坐标旋转数字计算方法完成PNN激活函数的准确逼近.实验结果表明,在完成高达93.82%准确率的情况下,基于FPGA的PNN实现方法比基于Matlab的方法快47.43倍,达到了便携式实时处理的设计要求.     

一种基于小波分时灰度矩与概率神经网络的电网故障诊断方法

为提高电网故障诊断的准确率和速度,提出一种将小波分时灰度矩与概率神经网络相结合的电网故障诊断方法,通过对小波灰度矩进行时间上的划分,计算得到故障发生后电流在不同时刻的灰度矩的值,从而得到小波系数随时间的变化情况;以小波分时灰度矩作为概率神经网络的输入,诊断结果作为输出,实现对电网故障的自动诊断,利用PSCAD/EMTDC对电网不同类型的故障进行了仿真,采用连续小波变换对电网发生短路故障后的暂态信息进行分析,提取其灰度矩信息,利用概率神经网络进行了故障识别。仿真结果表明,小波分时灰度矩具有较强的细节表现能力,可作为电网故障的故障特征,与概率神经网络相结合可有效地实现对电网故障的自动识别。     

基于卷积神经网络的无人机识别方法仿真研究

为了提高卷积神经网络(CNN)的泛化性和鲁棒性,改善无人机航行时识别目标图像的精度,提出了一种CNN与概率神经网络(PNN)相结合的混合模型。利用CNN提取多层图像表示,使用PNN提取特征对图像进行分类以替代CNN内部的BP神经网络,采用均方差和降梯度法训练模型,通过将预处理的图像传输到CNN-PNN模型,对图像纹理和轮廓进行分类识别,并将此模型的仿真结果与卷积神经网络模型、卷积神经网络-支持向量机模型的结果进行对比。仿真结果表明,与其他两种模型相比,CNN-PNN模型具有更好的精准度,识别率高达96.30%。因此,CNN-PNN模型能够快速有效地识别图像,准确度和实时性较高,在图像识别等方面具有很好的应用前景。     

一种PNN网络的EM训练算法

提出一种概率神经网络（ＰＮＮ）的ＥＭ（ＥｘｐｅｃｔａｔｉｏｎＭａｘｉｍｉｚａｔｉｏｎ）训练算法．ＰＮＮ网为一四层前馈网,它构成一个贝叶斯分类器,实现多类分类的贝叶斯判别,它把输入的样本模式,经网络变换为输出的分类判决．其网络节点对应于贝叶斯后验概率公式的各个变量．此ＰＮＮ网络用高斯核的Ｐａｒｚｅｎ窗函数作为核密度函数,网络参数训练由ＥＭ算法实现,其学习方式为类间的监督学习和类内的非监督学习．实验表明了此网络及其学习算法在分类应用中的有效性．     

基于神经网络的激光超声探伤表面波的分类

利用3种神经网络即自组织竞争神经网络、学习向量量化神经网络和概率神经网络对激光超声探伤缺陷表面波进行分类.讨论了3种网络在不同输入情况下的分类效果.实验结果表明,这3种神经网络都可以取得良好的分类效果.     

手写签名的概率神经网络识判模型

针对手写签名的随机性和信息的不完备性,提出了将Ｂａｙｅｓ网络与前馈神经网络相结合的概率神经网络模型．论述了建模的理论基础、模型结构、训练算法及其简化算法．概率神经网络可计算待测签名样本为真（或伪）签名的最大可能性,进而确定其所属类别     

基于概率神经网络的机组状态多步预报方法

为了解决由单步预报递推运算获得的多步预报存在的预报误差的迭代累积问题,提出了相空间动力学轨道的相似多步预报概念,利用概率神经网络合理分配相似算子,构造了多步预报的概率神经网络结构．然后,以模拟振动数据比较了单步预报神经网络、多步预报神经网络和多步预报概率神经网络的预报能力,并预报了燕山石化大机组停车概率的变化趋势,实践表明该方法具有良好的多步预报能力．     

基于能量特征的小波概率神经网络损伤识别方法

以小波能量特征向量作为概率神经网络(PNN)的输入向量集,提出了小波概率神经网络(WPNN)的损伤识别方法．为了验证该方法的有效性,对钢框架进行了损伤识别研究,并考虑了随机噪声的影响．识别结果表明：WPNN抗噪声能力强,识别精度高,在结构损伤识别与在线检测方面具有潜力。