权值直解的多项式神经网络及其解释能力设计

设计并系统研究了广义多元多项式神经网络,单隐层广义多元多项式神经网络,证明存在最优权值向量使该网络成为未知函数的最佳逼近多项式;创造性地建立了隐层节点的自然次序上限和下限,以及重要值等概念,并引入了偏导数分析,解决了神经网络不具备解释能力的弊病。设计了权值直接解法,证明该解法所得的权值向量是迭代法逼近的最优权值向量。设计了基于Matlab的图形用户界面。通过该程序,用户可通过炒股软件更新股票数据,读取特定股票、特定容量的数据,进行不同模型下指定日期的预测。     

复数神经网络的一种新型初始权值选择方法

为了改善学习速率,提出了一种确定复数神经网络初始权值的新颖方法。初始权值不是随机给定的,而是通过计算求得。具体方法是选择一类隐层神经元的变换函数(类支集函数),将输入层和隐层之间的复数权值计算出来,保证隐层的输出矩阵是满秩矩阵,并从理论上证明了这样的满秩矩阵是存在的。利用这个满秩矩阵,通过最小平方算法就可以求得隐层和输出层之间的复数权值。将这些权值作为初始权值,采用最速下降算法来对神经网络进行训练。初始权值的优化,使得该算法可以有效地提高复数神经网络的训练速度和计算精度。一个特例是当隐层神经元的个数与样本个数相等时,就可以求得代价函数值为0的全局最小点。计算机仿真实例验证了该算法的有效性。     

一种MPSO-BP-RBF网络模型及其在石油储层预测中的应用

为适应复杂油气储集层非均匀性、非线性及不确定性的响应特征,提高储层预测精度,采用PSO混合编码,提出了一种基于混合MPSO-BP的RBF自构建学习模型.该模型中,每个粒子由整数与实数两部分构成,分别对RBF的基函数的个数及相关参数(中心,宽度,输出层权值)进行编码.同时,设计了一个特殊的适应度函数,在保证精度的前提下,使网络的结构相对简单.应用于储层预测实践中,相对于RBF其他学习算法,该算法隐节点少,精度高,泛化能力强.     

一种优化计算确定神经网络结构的方法

对于一个具体的多层前向神经网络设计问题,网络的输入输出以及标准样本数为已知,网络的隐层结构,即隐层层数和每个隐层神经元个数如何选择是神经网络设计中的关键.根据代数方程理论,通过权值和阈值与隐层结构的关系,建立了以权值和阈值为设计变量的目标函数表达式,通过分析,提出了多层前向神经网络合理的隐层层数和每个隐层神经元个数的一般确定方法,给出了确定多层前向神经网络合理结构的优化目标函数及其约束条件.仿真研究结果表明所提出方法确定的多层前向神经网络结构是合理的.     

基于MPSO-BP的RBF网络自构建学习算法

采用PSO混合编码,提出了一种基于混合MPSO-BP的RBF自构建学习算法。该算法中,每个粒子由整数与实数两部分构成,分别对RBF的基函数个数及相关参数(中心、宽度和输出层权值)进行编码。同时设计了一个特殊的适应度函数,在保证精度的前提下,使网络的结构相对简单,以增强网络的自适应与泛化能力,减少主观因素设计对网络性能的影响。仿真实验表明,相对于RBF其他学习算法,所提算法隐节点少、精度高、泛化能力强。     

人工神经网络D最优设计的一种方法

利用初始的少数实例求初步的权值矩阵，根据该矩阵的人工神经网络模型找出偏导数向量的模最大时对应的设计矩阵，又根据该设计矩阵的实例求出新的权值矩阵，寻找新一轮设计矩阵。通过用泰勒级数展开的神经网络输出公式，求该输出函数的方差，证明了偏导数的向量的模最大是相关矩阵行列式最小(D最优)的充分条件。     

样条神经网络的权值直接确定法

根据样条逼近理论和神经网络原理构造了一种样条神经网络模型,以一组样条基函数作为隐神经元的激励函数。依据误差回传（BP）思想推导出该网络模型的权值修正迭代公式,利用该公式迭代训练可得到该网络的最优权值。而对于构造的具有特定网络结构的样条神经网络,依据伪逆思想提出了一种直接计算权值的方法,从而避免冗长的迭代训练过程。仿真结果表明该权值直接确定法不仅能一步确定权值从而获得更快的运算速度,而且能达到更高的计算精度。     

一种基于新型RBF网络的侦察测向系统

针对雷达侦察系统的到达角(AOA)测量问题,提出了一种新型的基于两级径向基函数(RBF)网络的侦察测向系统。根据RBF网络的特点,本文采用了一种基于免疫算法的混合方法确定RBF网络测向系统的参数。该方法利用免疫算法的全局搜索能力优化RBF网络隐层的结构和参数,并采用最小二乘算法计算RBF网络线性输出层的权值。计算机仿真表明,基于这种RBF网络的测向系统达到了很高的精度。     

基于代数神经网络的分圆多项式判定及学习算法

首先对MP神经元进行推广 ,给出了一元多项式代数神经元、一元多项式代数神经网络 ,设计出一类用于一元多项式二元运算的神经元模型 ,它是单输入单输出的 3层多项式神经网络 ,给出了两种用于判定一多项式为分圆多项式的神经网络模型及学习算法 ,把判定一多项式为分圆多项式转化成线性方程组求解问题 ,通过算例说明了该方法的有效性。     

一种新型δ函数神经元构成的神经网络及学习算法

本文提出一种新型δ函数神经元构成的三层前馈神经网络，其隐层中神经元采用δ变换函数而不是ｓｉｇｍｏｉｄ函数。学习算法不再采用误差反向传播（ＢＰ）算法，而是通过选定隐层与输入层之间的自由权来确定隐层与输出层间的待求权的直接算法完成学习。这种学习算法运算速度快，不存在局部极小和收敛速度慢的问题，只要隐层δ函数神经元个数等于样本对数量就一定能完成学习，这是传统ＢＰ算法不能比拟的。计算机仿真实例表明该算法是十分有效的。     

新型的基于堆栈式ELM的时变信道预测方法

针对高速移动场景正交频分复用(orthogonal frequency division multiplexing,OFDM)系统,提出了一种新的基于堆栈式极限学习机(extreme learning machine,ELM)的时变信道预测方法.为了捕获输入数据的深层信息,基于单隐藏层神经网络,首先利用堆栈式ELM方法...     

一种输入驱动的BP网络高效学习算法

在深入研究BP神经网络模型的基础上,从网络互连方式、网络权值初始化以及隐结点的选取等方面,对标准的BP算法作了改进.通过实验,证明该方法是非常有效的.     

一种新型复合神经网络模型

本文首先详细地阐述了ＢＰ神经网络和ＣＭＡＣ神经网络各自的结构，原理以及算法。提出了一种ＢＰ神经网络与ＣＭＡＣ神经网络组合起来的新型复合神经网络模型，并利用误差逆向传播原理推导出复合网络的学习法。仿真实验结果表明，这种复合神经网络在保留了ＢＰ和ＣＭＡＣ各自特长的基础上，同时具有学习速度快，泛化能力强等特点     

基于递阶遗传算法和BP网络的时间序列预测

提出一种基于递阶遗传算法和BP神经网络的时间序列预测模型。现有的BP训练方法只能训练BP网络的权重,网络的结构得预先用某种方法确定。利用很好设计的递阶遗传算法能够把网络的结构和权重同时通过训练确定。以铁路客运市场数据进行训练和测试,与传统的BP网络预测模型相比较,结果证明该模型的预测精确度是令人满意的,所提出的方法是可行的。     

基于递阶遗传算法和BP网络的财务预警

提出一种基于递阶遗传算法和BP神经网络的财务预警模型.现有的BP网络模式分类训练方法大都只能训练BP网络的权重,网络的结构得预先用某种方法确定.利用巧妙设计的递阶遗传算法能够把网络的结构和权重同时通过训练确定.以模式分类数据库中的数据进行训练和测试,并与其他模式分类模型相比较.结果表明,该模型更优,分类精确度更令人满意.根据上市公司的财务数据用所提出的方法进行财务预警是可行的.     

复杂样本分类的GA-RBFNN方法

本文以提高径向基函数神经网络(RBFNN)分类能力为出发点,结合遗传算法(GA)群体并行搜索能力,提出了一种有效的GA-RBFNN学习算法.该算法在传统衰减聚类算法确定网络初始结构的基础上,加入控制向量,设计了包含整个网络隐节点结构和径基宽度的矩阵式混合编码方式,以及相应的遗传操作算子.网络权值由伪逆法求解确定.经Iris、WINES和Glass数据集的仿真实验验证,该算法快速有效,具有较强的复杂样本分类能力.     

根据粗糙集理论进行BP网络设计的研究

提出了一种根据粗糙集理论进行ＢＰ网络设计的方法,它结合了粗糙集理论的强大的定性分析能力和ＢＰ网络的准确的逼近能力,得到一种可理解性好、计算简单、收敛速度快的神经网络模型．这种神经网络的学习算法的要点是：应用粗糙集的理论和方法,从给定学习样本数据中发现一组规则,并根据这些规则去建立网络模型中相应的隐层节点;然后用ＢＰ算法迭代求出网络的参数,从而完成网络的设计.     

一种优化的BP神经网络算法在石油储层预测中的应用

模型将GA、SA与BP3种算法有机地融合在一起,实现优势互补.采用二进制与实数混合编码,可以动态地根据样本特征对BP网络中的输入节点数、隐层节点数、转移函数、权值与阈值等进行自适应优化调整.在保证精度的前提下,采用较少的输入节点和隐层节点数,使网络的结构相对简单.采用自适应交叉率、变异率与学习率,以增强网络的自适应与泛化能力,极大地减少人为主观因素对网络设计的影响.     

一种基于离散粒子群的自适应径向基网络模型

提出了一种基于离散粒子群的自适应RBF网络模型。即融合两个二进制编码粒子群,通过对最近邻聚类中心选择法的改进,RBF网络模型能自适应地优化隐节点数、中心向量与宽度,且在保证网络性能的前提下,使网络的结构相对简单(较少的隐层节点数)。同时为进一步提高网络性能,采用梯度下降法与递推最小二乘法混合学习策略,分别对基函数参数(中心与宽度)和输出层线性权值进行学习。仿真实验证明了该方法模型的有效性。