基于遗传算法和改进Elman神经网络的股价预测

针对Elman神经网络在股价预测中存在网络结构的隐节点个数难以确定和网络训练极易陷入局部解的不足,以未来两天股票最高价作为预测对象,采用改进Elman神经网络结构.以辨识更高阶的动态系统;同时又利用遗传算法优化该神经网络的初始连接权和确定网络隐节点个数,从而解决上述网络在股价预测中的不足,并在遗传进化计算过程中采用保留最佳个体的策略,进行预测建模.结果表明这种模型对股价的预测精度较高,具有一定可行性.     

基于权值e指数信息熵的前馈网络修剪算法

针对神经网络结构设计的难点,定义神经网络连接权值的e指数信息熵,该熵克服了Shannon熵固有的缺点,但与Shannon熵对不确定性的描述具有相同的效果.将其作为惩罚项引入神经网络学习的目标函数中训练神经网络,由于熵函数特有的属性,对神经网络中小的连接进行惩罚而对大的连接进行鼓励,从而使神经网络中小的权值迅速收敛到零值附近.通过删除零值附近的权连接进而达到简化神经网络结构的目的.典型非线性函数逼近的仿真试验结果表明,该修剪算法在保证其逼近性能的同时,可以简化神经网络结构.     

任意前馈神经网络的稀疏化算法

主要讨论前馈神经网络的稀疏化,即如何确定和删除网络中冗余的神经元和连接。首先给出前馈神经网络的数学定义,并将偏序和拓扑排序引入到前馈神经网络的学习算法和稀疏化算法中。在此基础上提出了冗余神经元和连接的判断依据,并按照自构形和自调整的策略,提出了适用于前馈神经网络的自构形学习算法和自调整删减算法。实验结果表明,上述的稀疏化算法不仅能够有效地删除网络中冗余的神经元和连接,而且能够改善网络的性能。     

基于深度神经网络的入侵检测方法

为改善传统机器学习技术解决海量网络数据和复杂入侵模式对信息网络的入侵检测的不足,提出一种基于深度神经网络的入侵检测方法.采用神经元映射卷积神经网络(NPCNN)为网络结构,使用较少的连接和参数,具有易于训练和泛化能力强等优点.在训练过程中,使用Re LU激活器作为非线性激活函数,采用Adam算法进行模型学习,从而避免了传统深度网络须进行预训练的过程.在NSL-KDD数据集上的实验结果表明:提出的方法较基于传统机器学习的入侵检测方法具有良好的特征表征学习和分类能力,且随着数据量的增大,模型的分类精度有较大的提升.     

优化的粗神经网络在机械故障中的预测研究

为了尽早发现机械故障,做到防患于未然,实施安全生产,在神经网络中引入粗糙集理论和模糊聚类方法,实现建模预测。首先用粗糙集和模糊聚类进行属性约简,去掉冗余的属性。然后根据模糊逻辑规则获取合理的网络输入层、隐含层和输出层,建立优化的粗神经网络预测模型。该模型可以有效地去除神经网络中输入层的冗余神经元,合理的确定隐含层神经元的数目,使神经网络提高了收敛性能,获得更好的非线性逼近能力。应用车床的机械振动采样数据进行仿真实验,结果说明：优化的粗神经网络预测模型,可提取有用信息、简化网络结构,减少训练时间,提高预测精度。在机械振动位移的采样数据预测实验中,取得了良好的效果,对于减少机械故障、实现安全生产、提高经济效益具有重要意义。     

一种双隐层RBF神经网络的算法研究

针对RBF神经网络的结构和学习算法的缺点,提出了一种双隐层RBF神经网络(DRBF)模型,并结合网络结构的动态更新策略对网络结构进行实时更新,以梯度下降法对网络参数进行修正,即确保了网络结构的最简化,提高了网络的逼近精度和泛化能力,同时也加快了网络的训练速度.将本算法和传统RBF神经网络算法应用于非线性逼近和电信企业客户流失分类进行性能比较,实验仿真结果证明了本算法的有效性和高效性.     

一种改进的多层前馈神经网络结构研究

通过将传统多层前馈神经网络结构改造为具有跨层连接的网络,提出了相应的多层前馈神经网络改进算法.通过分析网络误差函数,从理论上证明了:相对于无跨层连接网络,有跨层连接网络能以更加简洁的结构逼近理想状态.最后,用一个隐层神经元解决了传统网络必须用两个隐元才能解决的异或问题.     

一种基于粗集理论的BP神经网络加速算法

应用粗糙集理论 ,对控制系统采样数据进行简化处理 ,构造一种新型神经网络结构 .提出一种误差反向传播BP(BackPropagation)神经网络加速算法 ,并将此算法应用于移动机器人的控制系统分析设计 .通过仿真结果的分析研究 ,验证了此算法在减少网络冗余 ,提高神经网络学习速度 ,提高网络实时控制能力等方面的良好的性能 .     

一种新的前馈神经网络删剪算法

前馈神经网络中隐层神经元的个数与它的学习和泛化能力密切相关.通过广义逆矩阵算法解决最小二乘问题改进神经网络自构行学习算法,得到一种新的前馈神经网络删剪算法.将新算法用于已经训练好的大型网络,能删剪“冗余”的隐层神经元,得到一个最精简的神经网络.此精简的神经网络不需要重新训练仍能保持原有的性能,并且泛化能力很好.仿真实例说明此算法的有效性和可行性.     

基于PLS-PSO-Elman的飞机燃油流量预测

传统的Elman神经网络处理高维度、多样本的复杂数据时,将出现一系列问题.如网络结构冗余、训练不完善、学习精度差等.这些缺陷不仅会导致网络工作效率低,而且还会使其识别精度差.将偏最小二乘回归(partial least squares,PLS)和粒子群算法(particle swarm optimization,PSO)与Elman神经网络相结合,提出了一种基于PLS和PSO优化的Elman神经网络算法(PLS-PSO-Elman).该算法通过PLS减少数据维度,获得较为理想的低维数据,达到简化网络结构的目的;然后利用PSO算法优化神经网络连接权重、阈值和隐含层神经元数量,弥补Elman算法训练不完善、学习精度差的缺陷;最后基于PLS与PSO双重优化的新算法对飞机燃油流量进行预测.实验表明,新算法有较高的运算效率与预测精度.     

基于模块化神经网络的船舶航迹航速预测

为提高船舶航迹航速预测精度,提出一种模块化神经网络MNN(modular neural network)船舶航迹航速预测方法。首先,利用归一化互信息与专家知识确定预测目标的辅助变量从而分解任务;然后,将RBF(radial basis function)神经网络和Elman神经网络用于子网络搭建,使用减法聚类算法确定初始子网络结构,在此基础上提出误差反馈方法将RBF神经网络训练的最大误差所对应的样本作为隐含层新增神经元并通过粒子群算法PSO(particle swarm optimization)优化RBF神经网络学习参数,运用性能函数动态调整Elman神经网络隐含层神经元数目以此构造模块化神经网络对目标进行预测;最后,实验结果表明模块化神经网络预测精度与网络结构均优于传统BP与RBF神经网络,证明了所提方法的有效性。     

基于遗传算法改进的卷积神经网络短时交通流预测

交通流预测对于减少拥堵、节能减排具有重要意义.基于卷积神经网络的预测方法普遍采用梯度下降法训练神经网络,缺点在于预测对网络初始参数敏感.本文采用遗传算法对卷积神经网络的网络参数进行确定从而对短时交通流进行预测.首先,根据交通流数据的特点,设计了适用于交通流预测的卷积神经网络结构;然后,确定卷积神经网络的卷积核与全连接层参数的解空间;随后,采用遗传算法对卷积神经网络参数在可行域中通过选择、交叉、变异三种遗传操作不断迭代搜索得到最优参数解.仿真结果表明,与梯度下降法训练的卷积神经网络相比,该方法拥有更高的预测精度.     

基于改进的双并联动态过程神经网络的旅游需求预测

为克服前向过程神经网络收敛速度慢、精度低的问题,提出了一种改进的双并联动态过程神经网络,对于给定的全连接的过程神经网络,通过优化其连接权值和网络结构,删除冗余连接使之成为部分连接的过程神经网络系统,并给出了基于正交基函数展开的学习算法,从而降低了计算的成本。改进的双并联动态过程神经网络应用于旅游预测问题,结果表明其预测精度能够满足工程需要。     

基于粒子群优化和模拟退火的神经网络优化研究

文章把模拟退火思想引入到粒子群优化算法中,提出一种关于神经网络结构的优化设计方法,用于同时完成对网络结构空间和权值空间的搜索。算法对神经网络的结构和权值进行了优化,删除了网络中的冗余结点和权值,提高了网络的处理能力。实验结果表明,算法能够有效抑制粒子群优化算法不成熟收敛的发生,有效提高前馈神经网络的收敛精度和收敛速度,表现出良好的性能。     

多分类问题的RBF 二叉神经树网络方法

神经网络是一种普遍使用的分类方法。当类别数目较大时 ,神经网络结构复杂、训练时间激增、分类性能下降。基于两类问题的树网络多分类方法将两分类方法和判决树相结合 ,利用两分类方法来减少神经网络的训练时间 ,利用树型分类器来提高识别率。提出了一种多分类问题的二叉神经树网络结构和训练算法。利用两分类网络的训练结果对类别进行排序处理 ,并应用排序后的类别序号构成树型分类器 ,使可分性最差的类别的识别率提高最大 ,从而提高了整体分类性能。使用径向基函数 ( RBF)网络作为节点网络 ,使节点网络结构适应两类间的可分性 ,从而最终优化了神经树网络的结构。仿真实验表明该方法的分类性能优于现有方法     

跨越-侧抑制神经网络分析及其应用

针对神经网络的结构设计,根据仿生学原理提出一种跨越-侧抑制神经网络(S-LINN).该多层网络结构引入了层内中间抑制神经元的侧向连接以及神经元在多个层内进行的信息传递.通过分析网络的逼近能力证明网络的学习能力,设计基于误差反向传播思想的梯度下降学习算法.通过鲍鱼年龄预测回归问题的仿真实验表明,S-LINN在处理实际回归问题时,不但能够保证较高训练精度,同时可获得更强的泛化能力.     

人工智能在故障诊断中的应用研究

针对神经网络存在的缺点和不足,主要分析神经网络和粗糙集、支持向量机、粒子群、小波相结合使用的方法.粗糙集和神经网络相结合用于故障诊断,可以通过粗糙集的知识约简功能大量消除训练样本中的冗余信息,减少神经网络的输入层节点,简化网络结构,缩短训练时间;基于神经网络和支持向量机的复合故障诊断技术不但可以进一步提高个体模型预测精度,而且可以使故障诊断模型始终处于最优识别状态;粒子群优化神经网络能够加快网络收敛速度,提高训练精度;小波神经网络能够很好地对故障进行分类,具有较高的识别精度.     

基于C3D模型的视频分类技术

目前,解决视频分类问题比较典型的方法是使用深度学习方法.该文设计了一种新的神经网络结构用于解决视频分类问题同时使用了交叉熵损失函数和一些减少神经网络过拟合的方法.网络结构采用了3D卷积神经网络结构,这是由于3D卷积神经网络相比2D卷积网络可以同时处理图像时域信息和图像空间信息,保留输入信息的时间特征.我们将视频文件通过各种手段,转化为图像帧的形式,放入该文设计的3D卷积神经网络中学习和训练,最后通过分类器对图像的的种类进行划分,得到每个数据分类概率的结果.与之前的C3D网络相比我们增加了网络的深度,优化了网络结构,并通过实验验证了改进的有效性.     

非线性动态传感器系统 Hammerstein神经网络补偿法

针对传感器动态特性中存在非线性的问题,提出一种基于Hammerstein传感器模型的非线性动态神经网络补偿法。先将补偿模型分解为与Hammerstein模型对应的线性动态与非线性静态2个环节;再设计一种新型的神经网络结构,使网络权系数对应于相应的Hammerstein补偿模型参数,并推导反向传播的网络权系数调整方法;最后通过网络迭代训练,求得补偿模型的线性动态与非线性静态两个环节。仿真与实际实验结果均表明该传感器非线性动态补偿方法使传感器具有理想的输入输出特性。     

前馈神经网络结构优化新算法

前馈神经网络的结构直接影响网络的性能.首先基于拟牛顿NL2SOL法构造前馈神经网络模型,为了优化神经网络结构,尝试引入重置算法(Early Restart Algorithm),构建基于重置的NL2SOL动态前馈神经网络.最后通过对比实验表明,重置算法的引入有效地解决了神经网络的结构优化问题,优化后的神经网络具有良好的收敛性与稳定性.