激活函数可调的神经元模型及其有监督学习与应用

提出一种激活函数可调的新神经元模型(tunableactivationfunction,简记为TAF)模型,并给出这类模型的一般形式.该模型用于多层前向神经网络MFNN时,其激活函数可借类似BP算法进行训练而求得.通过几个具体例子给出了对激活函数进行训练的算法.试验结果表明,采用TAF模型的多层前向神经网络的网络容量和性能,优于采用通常M-P模型的网络.     

神经网络的本质逼近阶

运用多元函数逼近工具, 对三层前向人工神经网络逼近连续和可积函数的本质逼近阶进行了定量研究. 证明了当激活函数满足一定条件时, 对任意的连续或可积函数, 能具体构造有明确隐层单元下界的三层网络使之对被逼近函数任意逼近. 给出该类神经网络逼近的上、下界估计和本质逼近阶估计, 刻画所构造网络的逼近性能与网络隐层拓扑结构之间的关系. 特别地, 当被逼近函数为二阶Lipschitz函数时, 所建立的神经网络其逼近速度完全取决于被逼近函数的光滑性. 所获结果对逼近连续或可积函数类的前向神经网络具体构造及逼近能力刻画有重要的理论指导意义.     

激活函数可调的神经元网络的一种快速算法

将激活函数可调的神经元网络的结构做了一个变形, 给出了网络学习的一种快速算法, 并对异或问题, Feigenbaum函数和Henon映射进行仿真实验, 结果表明, 该算法具有很快的收敛速度, 很高的收敛精度, 性能优于BP算法. 在此基础上, 将变形后的网络再进行改进, 实验表明改进后的网络具有更好的性能.     

一种新的模糊神经网络及其逼近性能

给出了一类折线模糊数间新的模糊算术，对于递增函数σ : R→R得到了一个新的扩展原理，并由此建立了一种新的模糊神经网络模型，该模型在设计学习算法、逼近能力等方面具有优越的性能. 最后证明了相应的前向三层网络可以作为连续递增模糊函数的通用逼近器.     

基于RBF神经网络的烧结终点预测模型

本文提出一种基于径向基函数(RBF)神经网络的烧结终点预测模型.该模型首先采用改进的最近邻聚类算法确定径向基函数中心,接着应用递推最小二乘法训练网络的权值.通过现场采集数据对该模型进行仿真,其实验结果表明,该模型具有较好的学习能力和泛化能力,为烧结终点的预测提供了一种新的解决方法.     

反馈型随机二元神经网络

提出并分析了一种全新的反馈型随机神经网络模型，该模型不同于常见的Boltzmann机，它不直接使用随机激活函数而是采用了随机型加权连接，神经元为简单的非线性处理单元.揭示了该网络模型存在惟一的收敛性平稳概率分布，当网络中的神经元个数较多时，平稳概率分布逼近于Boltzmann-Gibbs 分布. 另外，还讨论了该网络模型与Markov随机场之间的关系，并提出了一种新型模拟退火和Boltzmann学习算法.网络模型被成功地应用于解决难度较大的组合优化问题和人像的自动识别，实验结果证实了该模型具有强大的计算能力和优异的泛化性能.     

医用血管支架非线性扩张过程快速预测方法的研究

建立了血管支架变形影响因子与其变形结果之间的具有高度非线性识别能力的神经网络模型，通过引入学习因子η和动量因子ψ,采用附加动量项的权值修正方法，优化了网络训练算法，从而提高了网络训练速度和系统鲁棒性．结合实例对网络进行训练，并对预测误差进行了统计假设检验，检验结果表明血管支架变形神经网络智能预测结果与非线性有限元分析结果误差均值低于0．03％，训练后的网络能够较好地对血管支架变形进行预测．在此基础上，基于Pro／Toolkit工具，融合血管支架扩张变形神经网络智能预测模型，建立了血管支架力学性能快速评价工具，该系统实用性强、效率高，能大幅缩短血管支架产品开发周期     

正则模糊神经网络对于连续模糊函数的近似能力研究

研究了正则模糊神经网络对于模糊函数的逼近问题 .当σ是R上的非常量有界连续函数时 ,得到了被四层前向正则模糊神经网络 ∑qk=1 Wk · ∑pj=1 Vkj·σ X· Uj Θj 以任意精度逼近的连续模糊函数所满足的几个等价条件 .最后的例子给出了几类这样的模糊函数     

基于改进神经网络的厚煤层采煤方法预测模型

针对厚煤层采煤方法选择多目标非线性的问题,在影响因素分析的基础上,建立了预测仿真模型,利用神经网络改进算法训练网络,通过早停的方式解决网络过拟合问题。通过计算机仿真结合现场应用表明,该模型给出了最优方案,可为厚煤层采煤方法的合理选择和工作面主要经济技术指标的预测提供一种新的研究思路,在煤矿开采中具有广阔的应用前景。     

基于小波阀值降噪和BP神经网络的超短期风电功率预测

针对超短期风电功率预测问题，考虑了风电场复杂的噪声背景和风电功率的波动性，提出了一种基于小波阀值降噪-BP神经网络的超短期风电功率预测方法。该方法采用近似对称光滑的紧支撑双正交小波db4（Daubechies函数）作为小波基，通过多分辨分析的Mallat算法对历史时序风电功率数据进行3尺度分解。根据Donoho阀值法对各层小波系数进行软阀值降噪处理，再通过小波逆变换重构历史时序风电功率，由BP神经网络对其进行训练，预测目的风电功率序列。仿真算例将该方法与普通BP神经网络方法进行了对比，比较结果证明其预测精度优于后者，具有很好鲁棒性和降噪性能，适用噪声复杂的风电场超短期风电功率在赣预测．     

解决非可微凸优化问题的次梯度反馈神经网络

发展了Leung等人所提出的解决非线性凸规划问题的动态反馈神经网络模型, 引入基于次梯度动态反馈神经网络模型解决非可微凸优化问题. 对于无约束非可微凸优化问题, 假定目标函数是强迫性的凸函数, 证明了由投影次梯度构造的反馈神经网络轨道从任意初值点出发都收敛于一个渐近稳定的平衡点, 该平衡点为原无约束问题的最优解. 对于约束非可微凸优化问题, 在目标函数是强迫性的凸函数, 约束函数也具有凸性的假定下, 依次造构能量函数序列和相应的基于次梯度的动态反馈子网络的模型, 建立了收敛定理并给出了停时条件. 最后, 设计了两种有效的算法并结合一些实例进行了仿真验证.     

用于中医证候规范研究的模糊神经网络分析模型

为建立一种用于中医证候规范化研究的新模型——基于动态Kohonen网络的模糊神经网络，在分析中医证候规范化研究方法与存在的问题的基础上，采用基于动态Kohonen网络的模糊推理方法，给出了模型的学习算法和新的研究方法，并将该模型应用于中医证候规范化研究，通过Iris数据和临床数据检验，验证了模型的正确性和方法的有效性。     

近似指数型神经网络的本质逼近阶

针对一类比Sigmoid更为宽泛的指数型激活函数,证明了三层前向神经网络的本质逼近阶.特别地证明了对于定义在Rd中紧子集上的任意连续函数f,存在隐层单元数为m(n)=Bdm(fi,nn)<ε(n 1)d(其中222(,)11,1,Bdfn=2 π2dωfn 2ω2(f,·)为f的二阶连续模,n为不小于1/ε的任意正整数)的近似指数型神经网络Rnσ(d)使其逼近f的精度与速度满足222(,())11,1.d∞fRnσd≤2 π2dωfn 2同时,当f属于α-Lipschtz函数类时,网络达到其本质逼近阶n?α(0<α≤2),所获结果较完整地刻画了该类神经网络的逼近特征,并揭示了该类神经网络逼近性态与网络拓扑之间的相依关系.     

二进神经网络表达奇偶校验问题的隐元最小数目上界

二进神经网络采用线性分类,是结构简单又易于实现的一类神经网络,在许多应用领域中都有重要研究价值.对于单隐层二进神经网络,目前隐层规模的确定问题仍然没有明确的研究结论.本文在研究隐层规模问题的过程中,提出了布尔空间的最多孤立样本问题.在二进神经网络隐层神经元各自表达一个"与"关系,所有隐层神经元通过输出元形成"或"关系的情况下,证明了实现最多孤立样本问题需2n?1个隐层神经元.更重要的是,指出了n元奇偶校验问题和最多孤立样本结构的等价性.进一步地,通过引入隐层抑制神经元将隐元数目降为n,说明了抑制神经元在二进神经网络中的重要作用.最后,在Hamming球与SP函数的基础上,揭示出抑制神经元和n元奇偶校验问题的逻辑关系,并给出了奇偶校验问题的逻辑式表达.     

基于L—M算法的EVT1传播预测模型

本文基于神经网络L—M优化算法，提出一种对EV71病毒的有效预测模型，利用matlab进行仿真模拟，结果和阜阳病毒感染情况非常符合。神经网络L—M优化算法克服了神经网络BP算法收敛速度慢的缺点，同时通过学习训练，本模型的神经系统具有有效性和通用性的特点。     

基于客户满意度的模糊神经网络JSP研究

针对具有不确定性因素的作业车间调度问题，基于模糊数学的思想，把模糊加工时间、间隔期和模糊交货期用梯形模糊数表示，建立了基于客户满意度曲模糊作业车间调模型。运用Hopfleld神经网络算法求解，结合目标函数和JSP的全部约束条件，构建能量函教和JSP换位矩阵，保证了神经网络稳态输出为最优生产调度方案。最后用网络计划图对稳态输出的换位矩阵进行解码得到最优调度甘特图，避免了传统成本树法易出现死锁调度的问题。计算实例验证了本算法的可行性和有效性。     

基于L-M算法的EV71传播预测模型

本文基于神经网络L-M优化算法,提出一种时EV71病毒的有效预测模型,利用matlab进行仿真模拟,结果和阜阳病毒感染情况非常符合.神经网络L-M优化算法克服了神经网络BP算法收敛速度慢的缺点,同时通过学习训练,本模型的神经系统具有有效性和通用性的特点.     

日径流预报贝叶斯回声状态网络方法

回声状态网络（ESN）相比传统递归神经网络，具有模型简单、参数训练速度快的特点．针对标准ESN因常采用线性回归率定模型参数容易出现过拟合问题，提出了基于贝叶斯回声状态网络（BESN）的日径流预报模型．该模型将贝叶斯理论与ESN模型相结合，通过权重后验概率密度最大化而获得最优输出权重，提高了模型的泛化能力．通过安砂和新丰江两座水库日径流预测实例表明，BESN模型是一种有效、可行的预测方法，与传统BP神经网络和ESN模型对比，进一步表明BESN模型具有更好的预测精度．     

改进的模糊神经网络算法在车型识别中的应用

FBP和FCNN网络是模式识别中应用最为广泛的两种神经网络，本文将这两种网络应用于车型识别，分别建立了车型识别模型。利用混沌对初值的极端敏感依赖提出了FCNN网络算法，通过对车型图像数据库进行仿真实验，对比分析它们各自的识别率和泛化能力等性能指标，证明了FCNN网络算法的有效性。     

利用输入信号先验知识构造某些分类神经网络的研究

提出一种前向神经网络只有一个隐元就可以解决奇偶校验或对称性校验问题，讨论了如何根据输入模式的先验知识来推导隐元的传递函数的构造该分类神经网络的方法，和已有的研究工作相比，提出的前向神经网络是解决某些线性不可分的模式识别问题的最简单的网络结构，所提出的分析方法也可推广用于类似的网络构造问题。