基于文化算法的神经网络集成方法

提出了一种基于文化算法的神经网络集成方法,在训练好个体神经网络后,使用文化算法选择部分网络来组成神经网络集成.该方法将遗传算法纳入文化算法框架,充分利用优秀个体的经验知识来指导算法的搜索过程,从而提高了算法的搜索速度.实验结果表明,使用文化算法进行集成,能够提高构造差异性大的神经网络集成的效率.     

基于神经网络免疫集成的非线性时间序列故障预报

针对神经网络集成对个体差异性的要求 ,提出了集成网络间的结构差异度的概念 .在此基础上设计了一种基于反向选择的免疫算法 ,该算法可以在减小集成网络各自训练误差的同时保持网络间的结构差异度 ,从而提高神经网络集成的泛化能力 .同时证明了该算法对最优个体的收敛性 .将该方法应用于受噪声污染的非线性时间序列故障预报 ,根据预测误差可以方便准确地检测系统的缓变故障和突变故障 ,实现对微小故障的快速故障预报 ,降低误检率 .仿真结果证明了该方法的有效性 .     

基于最大方差组合的选择性神经网络集成

为进一步提高神经网络集成的泛化能力,提出一种基于最大方差组合的选择性神经网络集成构造方法：首先训练出若干神经网络个体,其次,利用离散人工蜂群算法对这些神经网络个体进行组合优化的全局搜索,选出一个最大方差的个体组合,最后,将具有最大方差的神经网络个体使用简单平均方法进行神经网络集成.将该模型应用与广西东南部的区域降水预报试验,实验结果表明,笔者提出的神经网络集成方法比常用的Bagging集成方法提高了8％以上,能有效地提高神经网络的泛化能力.     

基于非参数回归的遗传神经网络集成股市预测研究

利用遗传算法改进神经网络集成个体的连接结构和初始连接权值,利用主成分分析法提高集成个体差异度,形成一组优良的神经网络集成个体,利用非参数回归生成集成结论,求出非线性时序函数的全局最优解,随即建立新型的基于非参数回归的遗传神经网络集成股市预测模型.仿真结果表明,该模型预测精度高,可操作性强,具有一定实用性.     

基于神经网络免疫集成的非线性时间序列故障预报

针对神经网络集成对个体差异性的要求，提出了集成网络间的结构差异度的概念．在此基础上设计了一种基于反向选择的免疫算法，该算法可以在减小集成网络各自训练误差的同时保持网络间的结构差异度，从而提高神经网络集成的泛化能力．同时证明了该算法对最优个体的收敛性．将该方法应用于受噪声污染的非线性时间序列故障预报，根据预测误差可以方便准确地检测系统的缓变故障和突变故障，实现对微小故障的快速故障预报，降低误检率．仿真结果证明了该方法的有效性．     

基于遗传算法神经网络集成股票市场预测研究

神经网络集成技术能有效地提高神经网络的学习能力和泛化能力,已经成为机器学习和神经计算领域的一个研究热点.本文利用不同的神经网络算法产生神经网络集成个体,以误差平方和最小为准则,用遗传算法动态求解集成个体的非负权重系数,进行最优组合集成建模研究,并以此建立股市预测模型.通过上证指数开盘价、收盘价进行实例分析,计算结果表明该方法相对传统的简单平均集成模型,具有预测精度高、稳定性好,易于操作的特点.     

基于粒子群优化算法的并行学习神经网络集成构造方法

为了提高神经网络集成中个体网络的差异性,并减少将集成用于预测时的计算量,本文结合粒子群优化算法和个体网络的并行学习机制,提出了一种基于粒子群优化的并行学习神经网络集成构造方法。实验表明,和传统的集成构造方法相比,该构造方法具有比较好的性能。     

神经网络分类器动态集成方法

提出一种神经网络分类器的动态集成方法.基于bootstrapping构建不同的个体神经网络,针对混合属性,通过不同的加权最近邻设计评估单个网络的分类精度,在此基础上动态选择误差率较小的神经网络,经过投票形成集成分类结果.将该方法与其它几种集成方法在10个UCI数据集上进行了分类性能比较.实验结果表明,该方法在上述所有数据集上的平均分类精度最佳,同时发现,Bagging比隐层神经元数法能更好地生成个体网络,而将两者结合起来训练个体神经网络,并不能明显提高集成性能.     

基于量子粒子群的神经网络集成股市预测模型研究

利用量子粒子群改进神经网络集成个体的网络结构和连接权值,利用主成分分析法提高集成个体差异度,形成一组优良的神经网络集成个体,利用支持向量机回归集成生成输出结论,求出非线性时序函数的全局最优解,随即建立一个基于量子粒子群的神经网络集成股市预测模型。试验表明,该模型能有效提高神经网络集成系统的泛化能力,预测精度高,稳定性好。     

PCA支持向量机回归集成股市预测应用

利用主成分分析（PCA）方法优选神经网络集成个体,利用支持向量机回归集成生成输出结论,建立一个PCA支持向量机回归集成股市预测模型。试验表明,该模型能有效提高神经网络集成系统的泛化能力,预测精度高,稳定性好。     

增量构造负相关异构神经网络集成的方法

基于负相关异构网络,提出了一种增量构造异构神经网络集成(NNE)的方法.该方法在训练成员网络时,不仅调整网络的连接权值,而且动态调整网络的结构,从而在提高单个网络精度的同时增加各成员网络之间的差异度,减小网络集成的泛化误差.该方法包括构造最佳异构网络(BHNN)和构造异构网络集成(HNNE)两个部分,BHNN基于负相关学习动态构造多个最佳网络,HNNE利用训练好的最佳网络增量地构造异构NNE.使用网络泛化误差和集成泛化误差,整个集成过程可自动完成,无需预先确定成员网络的结构.分别对回归和分类问题进行了实验,相对于单个网络,该方法在测试数据集上的错误率降低了17%～85%,与已有的Boosting、Bagging等网络集成方法相比,错误率也有不同程度的改善.     

基于模糊划分的神经网络集成

基于模糊聚类思想,提出了一种神经网络集成方法.由训练数据的模糊聚类结果,把训练数据划分成相交子集,基于各子集生成集成的个体神经网络.由于各子集所包含的数据和数据的类别各不相同,因而个体神经网络性能和结构存在差异.子集个数确定集成中个体神经网络个数.另外,基于隶属度函数计算公式,提出了个体神经网络输出结论结合方法.理论分析和实验结果表明,此方法对模式分类能取得较好的效果.     

神经网络动态集成技术及其应用

针对当前神经网络集成方法在提高泛化能力方面的不足,提出了神经网络动态集成技术。该技术首先对神经网络集成中的个体之间进行负相关处理提高个体的差异度,然后选择训练误差较小的个体来提高个体的精确度。最后,以广东省某市的宏观经济数据为例,证明了该技术的有效性。     

基于覆盖的神经网络集成在语音识别中的应用

神经网络集成通过训练多个神经网络并将各网络的结论进行合成,从而得到最终结果.集成可以显著的提高学习系统的泛化能力.讨论了基于覆盖思想而设计的神经网络集成方法,并将其应用于汉语孤立数码语音识别系统中,通过在集成过程中加入基于覆盖思想的控制算法降低系统的泛化误差,从而使系统的识别效果有了进一步的提高.     

集成学习算法的比较研究

从差异性出发,研究了基于特征技术与数据技术的集成学习算法,深入分析了这些集成学习算法产生差异性的方法;针对决策树与神经网络模型在标准数据集对集成学习算法进行了实验研究,结果表明集成学习算法的性能依赖于数据集的特性以及产生差异性的方法等因素,并且基于数据的集成学习算法的性能优于基于特征集的集成学习算法的性能.     

基于Elman神经网络集成的诺西肽发酵过程建模

针对单神经网络模型外推效果不理想、泛化能力较差的缺点,将神经网络集成用于诺西肽发酵过程的建模.采用Bagging技术进行重复取样用于个体神经网络的训练,结论生成时采用加权平均法,各子网络的权重利用差分进化算法来确定.个体神经网络选用典型的动态神经网络Elman网络,通过对多个Elman神经网络模型的输出进行融合,建立了基于神经网络集成的诺西肽发酵产物浓度模型.最后将所建立的模型与基于单神经网络的模型进行了比较,结果说明该模型具有更高的精度和泛化能力.     

手写数字识别中组合式神经网络的构建方法

将聚类技术和遗传算法相结合, 提出一种基于相似度传播算法和遗传算法的神经网络集成方法应用于手写数字识别问题. 先分别利用主成分分析和Fisher线性判别分析对数据集进行特征提取, 得到两类特征数据集, 再利用Bagging方法分别为这两类特征数据集训练简单的BP神经网络, 然后采用相似度传播算法对这些BP神经网络进行聚类, 找到作为类簇中心的网络(中心网络), 最后利用遗传算法对所有中心网络的权值进行训练, 将中心网络进行加权线性集成作为最终分类器. 在标准手写数字数据集MNIST上进行测试的实验结果表明, 该方法的识别率优于单个神经网络的识别率, 并兼顾了分类效率.