增量构造负相关异构神经网络集成的方法

基于负相关异构网络,提出了一种增量构造异构神经网络集成(NNE)的方法.该方法在训练成员网络时,不仅调整网络的连接权值,而且动态调整网络的结构,从而在提高单个网络精度的同时增加各成员网络之间的差异度,减小网络集成的泛化误差.该方法包括构造最佳异构网络(BHNN)和构造异构网络集成(HNNE)两个部分,BHNN基于负相关学习动态构造多个最佳网络,HNNE利用训练好的最佳网络增量地构造异构NNE.使用网络泛化误差和集成泛化误差,整个集成过程可自动完成,无需预先确定成员网络的结构.分别对回归和分类问题进行了实验,相对于单个网络,该方法在测试数据集上的错误率降低了17%～85%,与已有的Boosting、Bagging等网络集成方法相比,错误率也有不同程度的改善.     

递阶结构进化神经网络在故障诊断中的应用

主要研究进化神经网络在旋转机械故障诊断中的应用 ,提出了一种基于递阶结构的遗传算法与进化规划相结合的神经网络学习新算法 ,利用该算法可以同时对网络进行结构优化和权重求解。通过旋转机械故障分类应用实例 ,与传统的 BP训练算法作了比较 ,证明基于递阶结构的进化神经网络算法不仅在权重训练方面比传统 BP训练算法更加快速稳定 ,避免陷入局部极小点 ,而且同时对网络结构进行了优化 ,得到了结构更为简捷的旋转机械故障分类网络     

基于递阶进化规划的RBF网络设计新方法

针对RBF神经网络的特点 ,提出一种递阶进化规划算法 ,利用此方法同时对网络的拓扑结构和网络参数 (权值、隐节点中心和形状参数 )进行优化 ,克服梯度算法需要求导且易陷入局部极小的弱点 ,分别对单入单出和多入单出非线性函数的建模问题进行了仿真 ,验证了该算法的有效性     

基于进化神经网络的曲面磨削表面粗糙度预测

将人工神经网络技术引入曲面磨削加工领域，介绍了利用BP算法建立的曲面磨削表面粗糙度随磨削用量变化的进化神经网络预测模型．针对BP算法存在收敛速度慢、容易陷入局部极小值及全局搜索能力弱等缺陷，采用遗传算法训练BP神经网络，取代了一些传统的学习算法，设计了基于进化神经网络的学习算法．实验和仿真结果表明，基于进化计算的BP神经网络不仅可以克服单纯使用BP网络易陷入局部极小等问题，而且预测精度较高。     

AdaBoost集成神经网络在冲击地压预报中的应用

为提高单一BP神经网络预测精度,利用AdaBoost.R2集成学习算法,将单一BP(Back\|Propagation)神经网络集成,并针对AdaBoost.R2集成BP网络的特点,提出了一种新的模型更新方法,在有效地实现模型更新的同时克服了传统更新方法的不足。将该新方法应用到抚顺老虎台矿冲击地压预报中,对冲击地压发生的主要因素进行了分析并将其作为模型的输入,使用AdaBoostR2集成BP网络作为核心智能算法,建立了冲击地压预报模型,取得了较好的预测效果。     

基于Elman神经网络集成的诺西肽发酵过程建模

针对单神经网络模型外推效果不理想、泛化能力较差的缺点,将神经网络集成用于诺西肽发酵过程的建模.采用Bagging技术进行重复取样用于个体神经网络的训练,结论生成时采用加权平均法,各子网络的权重利用差分进化算法来确定.个体神经网络选用典型的动态神经网络Elman网络,通过对多个Elman神经网络模型的输出进行融合,建立了基于神经网络集成的诺西肽发酵产物浓度模型.最后将所建立的模型与基于单神经网络的模型进行了比较,结果说明该模型具有更高的精度和泛化能力.     

锂离子动力电池荷电状态联合估计应用

为了进一步提高锂离子动力电池荷电状态(SOC)的估计精度问题,在分析了电池电压、温度、电流和放电电量对电池SOC值的影响后,提出了一种新颖的混沌萤火虫算法(chaos firefly algorithm,CAF)和小波神经网络(WNN)相结合的锂离子动力电池SOC联合估计方法,该方法首次利用于电池SOC值估计中,通过新颖的混沌萤火虫算法优化小波神经网络,加入动量项优化网络的权值和调整修正参数,提高了网络的学习效率和SOC估计精度。克服神经网络进化缓慢并且容易陷入局部最小的缺陷,通过仿真和电池实际工况下实验,结果表明与WNN算法相比,所提出的方法具有更高的预测精度,均方根误差小于2%,验证了这一算法的可行性和有效性。     

多种群并行进化神经网络的研究及应用

提出一种新的多种群并行遗传算法（NMPGA），并将其作为多层前馈神经网络（MFNNs)的学习算法，从而形成一类新的MFNN模型－多种群并行进化神经网络（MPENNs)。首先，对一给定的网络结构，随机产生一初始权重的集合，这个集合实际上对应着一组具有相同结构但不同权重的神经网络。然后，采用NMPGA对MFNNs的权重进行进化。最后，性能最好的网络被选作目标问题的解。在NMPGA算法中，作者采用浮点数编码来克服传统二进制编码的精度不足问题，并设计了专门的杂交算子和变异算子来增强算法性能。实验结果表明，MPENNs能成功解决异或问题、三元奇偶问题及成品烟的感官质量评价问题。     

递阶进化算法的小波网络在设备状态预测中的应用

为改善小波网络的学习和逼近性能 ,基于递阶结构染色体提出了递阶进化算法用以实现小波网络的设计和训练。该算法采用包含控制级基因和参数级基因的递阶结构的染色体 ,分别对网络结构和网络参数进行编码 ,并根据编码特点将遗传算法与进化规划结合进行进化操作 ,可实现同时对网络结构与网络参数进行进化设计和学习训练。该算法不仅克服了梯度下降算法中的局部极小和网络训练不收敛问题 ,也使网络结构更优 ,从而提高了网络训练效率和网络的工作性能。就函数逼近问题和水轮机组的状态预测问题进行了事例研究 ,验证了所提出的算法的优越性和可行性     

基于遗传算法的神经网络学习算法研究

为了克服神经网络结构和参数设计的随机性及依赖于人的经验的缺点,提出了一种改进的基于遗传算法的BP神经网络学习算法。该算法结合了神经网络的快速并行性和遗传算法的全局搜索性,首先利用遗传算法对神经网络结构、初始连接权和阈值以及学习率和动量因子进行全面进化设计,在解空间中定位出较好的搜索空间,然后在进化神经网络中用训练样本再次寻优。通过利用该算法对XOR问题求解,证明了该算法的有效性,其收敛速度和精度均优于基本BP算法和附加动量项的BP算法。     

前向神经网络拓扑结构和权值的进化

基于进化规则（Bvolutionary Programmin)的方法，提出一种进化前向神经网络的新算法。该算法能同时进化网络的拓扑结构和连接权值（包括阈值），产生非常紧凑的网络结构，并且由于其全局搜索能力能够避免结构的局部。仿真结果证明了该算法的有效性。     

基于Fibonacci采样的数据预处理方法研究

提高神经网络(NN)的收敛速率和预测精度一直是人工智能领域的一个挑战性问题,尽管许多研究人员已在研究中使用小批量数据训练神经网络获得了较好的效果,但是这些方法并不够灵活.针对这个问题,该文提出了一种新的数据预处理算法即Fibonacci采样算法.根据Fibonacci数列规则绘制一个新的训练数据序列,这不仅可以恢复小批量数据的划分,而且还可以提供更灵活的批量规模的选择.实验结果表明:在梯度下降之前,Fibonacci数据划分序列能得到较好的实验结果.在应用于相同的单个CNN(5层卷积神经网络)和AlexNet中,Fibonacci采样算法比传统的小批量梯度下降算法能获得更高的准确度和更低的损失值,并且在几种通用网络(LeNet、AlexNet、VGG-16、GoogLeNet)上的性能也取得显著提升.     

手写数字识别中组合式神经网络的构建方法

将聚类技术和遗传算法相结合, 提出一种基于相似度传播算法和遗传算法的神经网络集成方法应用于手写数字识别问题. 先分别利用主成分分析和Fisher线性判别分析对数据集进行特征提取, 得到两类特征数据集, 再利用Bagging方法分别为这两类特征数据集训练简单的BP神经网络, 然后采用相似度传播算法对这些BP神经网络进行聚类, 找到作为类簇中心的网络(中心网络), 最后利用遗传算法对所有中心网络的权值进行训练, 将中心网络进行加权线性集成作为最终分类器. 在标准手写数字数据集MNIST上进行测试的实验结果表明, 该方法的识别率优于单个神经网络的识别率, 并兼顾了分类效率.     

启发式进货规划求解Steiner树问题

求解Steiner树对通信网络点对多点路由优化问题有重要意义,已被证明是NP－complete的。通过把图形简化技术、进货规划方法和KMB启发式上结合,提出了一种求解Steiner树问题的新方法,提高了算法的效率,仿真结果表明,本算法是有效的,性能优于传统的启发式算法。     

遗传神经网络法及其在机器人误差补偿中的应用

针对某打磨机器人的位姿误差分析,提出一种采用二进制和实数值混合编码的遗传BP网络法,同时优化网络结构和权值矢量;网络结构采用二进制编码保留了粒度编码方法的优点,对连接权值系数的实数编码进行Solis&Wets运算使新的遗传算法具有进化规划和进化策略的优点;结合遗传算子和Solis&Wets算子生成后代的方法以及最佳个体保留策略使得遗传搜索空间的群体多样性更好,加快了遗传算法的收敛速度;采用动态参数编码方法替代Vittorio粒度编码方法,既提高了连接权系数的优化精度,又避免了Vittorio粒度变化所引起的适应度的剧烈不连续变化.仿真和实验结果均表明该算法能有效克服遗传算法的非成熟收敛,提高机...     

一种用GEP进化神经网络结构和权值的方法

提出一种用基因表达式编程(gene expression programming,GEP)自动设计神经网络结构和权值的算法.论述算法的基本思想和基本操作,针对算法的早熟现象和变异率低问题进行了相应的改进,给出这种算法的应用实例.实验结果表明,GEP可以自动设计神经网络的结构,并能给出优化的网络权值,与其他优化算法相比,收敛速度更快.