基于聚类的神经网络及其在预测中的应用

提出了一种基于聚类的神经网络算法，可以很好解决大样本情况引起的网络结构复杂、收敛性和泛化能力差等神经网络的固有问题．算法采用聚类算法为分类器，进行模式空间分解，以分类后的模式子空间为各样本集合，用神经网络集学习，最后根据重力模型计算检测样本对各样本子集的隶属度，整合各子空间的输出结果．通过实验对比表明该算法精度较高，容错性好．     

小样本下基于卷积神经网络的费用估算研究

在当前的费用估算模型较依赖数学模型、无法根据样本大幅度调整模型参数的现状下,针对导弹特征属性和研制费用公开样本稀少以及不同型号的导弹样本对待预测样本的参考意义不同的问题,提出了小样本下基于卷积神经网络的导弹研制费用估算模型.为解决小样本和样本贡献值问题,结合双三次插值算法和反距离加权插值算法对导弹原始样本集进行插值.采用导弹研制费用卷积神经网络估算模型对插值样本进行学习,得到导弹研制费用估算结果.通过与线性回归、神经网络、支持向量机、WPCA&WSVR几种模型的对比实验,验证该模型在整体估算效果上优于其他模型.     

前馈神经网络权值和拓扑结构的一个学习算法

从三层前馈神经网络作为样本分类器时隐结点常常起着聚类作用的想法出发，提出一种在权值学习过程中调整网络拓扑结构的学习算法．实验结果表明，该法能在网络的权值学习过程中比较有效地选择网络的拓扑结构，同时又具有较快的学习收敛速度     

一种用于RBF神经网络的支持向量机与BP的混合学习算法

基于支持向量机与径向基(RBF)神经网络在结构上的相似性,提出了一种用于RBF网络的支持向量机与BP的混合学习算法．算法分为2步：首先采用序贯最小优化算法学习训练支持向量机,得到RBF网络较优的初始结构和参数;随后由BP算法调整优化RBF网络参数．混合学习算法结合了支持向量机小样本学习、学习训练快捷以及BP算法在线修改网络参数的特点．仿真研究表明,混合学习算法学习效率高,网络性能优良,应用于函数逼近时效果优良．     

模糊神经网络的局部调整快速学习算法

神经网络的学习速度是影响其在实时控制中应用的重要原因之一,在文中提出了一种基于局部调整方法的模糊神经网络快速学习算法．该算法通过采用对输入数据进行判别的方法来选择每次学习时所需调整的有效规则,大大减少了学习中调整的规则数,从而加快了模糊神经网络的学习速度．同时,通过这一判别还可进一步确定是否需增加新规则以及增加的规则数,因此该算法不仅能够进行模糊神经网络的参数调整,还能实现神经网络的结构自适应调整功能．随着神经网络的输入维数以及初始规则数目的增加,算法的上述优点更加明显．最后采用快速算法与普通算法分别对单输入及多输入系统进行了辨识,仿真结果证明了上述结论：在初始规则数较少,普通算法无法收敛时,应用快速算法则可以收敛;随着规则数目与输入维数的增加,算法的快速性与精度跟普通算法相比优势明显     

一种改进的RBF神经网络在预测虫害中的应用研究

针对神经网络在小样本预测时存在泛化能力降低的问题,提出了一种改进的RBF神经网络预测虫害的方法.这种方法结合了模糊聚类可以对样本进行去噪及RBF神经网络推理,具有速度快、无局部极小问题存在的优点.同时提出一种对RBF的中心、宽度和权值进行调整的RBF神经网络的学习算法.仿真结果表明,该方法能有效解决对小样本预测虫害的模糊性、相关性和非线性问题.而且预测结果准确,简单实用,效果较好.为农业预测虫害提供了一种新的预测方法,对促进农业生产的稳步发展和农民增产增收,都能够产生积极的作用.     

基于归纳学习的结构损伤识别方法研究

采用归纳学习方法来识别结构损伤．首先，通过对经典的决策树算法和序列覆盖算法进行结合与改进，得到一种高效且代价又小的归纳学习算法(RAC)，同时引入装袋算法产生多个分类法，并用它们进行类预测，而且使用选票策略得出最佳类预测．其次，用正交最小二乘迭代算法作为径向基函数(RBF)神经网络的学习方法，通过“信息一贡献”准则进行正交变换来优选中心．最后，对上述归纳学习方法用于梁结构损伤定位的效果进行了实验评估．结果表明，对于RAC算法和生成分类法的数目分别为10和50情况下的装袋算法，当损伤样本被噪声污染程度在100％时，识别精度均可达到90％以上，而对于RBF神经网络算法，只有当损伤样本被噪声污染程度小于70％时，识别精度才可达到90％以上。     

手写签名的概率神经网络识判模型

针对手写签名的随机性和信息的不完备性,提出了将Ｂａｙｅｓ网络与前馈神经网络相结合的概率神经网络模型．论述了建模的理论基础、模型结构、训练算法及其简化算法．概率神经网络可计算待测签名样本为真（或伪）签名的最大可能性,进而确定其所属类别     

径向基概率神经网络的结构优化算法研究

径向基概率神经网络（RBPNN）是在径向基函数神经网络（RBFNN）和概率神经网络（PNN）的基础上发展起来的一种新型的前馈神经网络（FNN）模型。该网络模型充分吸收了径向基函数神经网络和概率神经网络的优点,这种新的模型具有计算复杂度低、收敛速度快等优点。本文深入研究了径向基概率神经网络的结构优化算法,在遗传结构优化方法的基础上,提出一种新的两步学习算法,基于遗传算法的梯度学习算法。该算法一方面优化了网络结构,使网络结构尽可能的精简,另一方面有效地提高了网络的推广能力。     

基于遗传与BP混合算法神经网络预测模型及应用

提出用遗传学习算法和权重调整BP算法相结合的混合算法来训练模糊模式识别神经网络预测模型；即先通过遗传学习算法进行全局训练，再用权重调整BP算法进行精确训练，使网络收敛速度加快和避免局部极小。作为实例，以新疆雅马渡站的实测径流资料和相应的前期4个预报因子实测数据作为样本进行训练并用以预测雅马渡站的年径流量。结果表明，该方法具有收敛速度快和预测精度高的特点。     

基于增量式SVM的入侵检测研究

现实中入侵行为是层出不穷的,因此入侵检测系统必须能对新的入侵行为进行学习.提出基于存活因子的增量学习支持向量机(SVM)训练算法,通过边界样本集和准边界样本集对已知的入侵知识进行表示,能有效地对新入侵进行增量式学习.并且,采用了带存活因子的增量学习方式,可以有效地抑制算法的“震荡效应”,提高SVM算法进行入侵检测学习的自适应性和鲁棒性.     

基于局部正脸合成和两阶段表示的三阶段人脸识别算法

基于两阶段表示的人脸识别算法（TPTSR）识别率高,并且对遮挡、噪声等干扰鲁棒,但是当人脸姿态有较大变化时,TPTSR算法的识别率会明显下降.针对这一问题,提出基于局部正脸合成和TPTSR的三阶段人脸识别算法:第一个阶段,正脸合成阶段,利用提出的正脸合成算法和视点库,将偏转角度较大的测试样本合成相应的正脸,作为新的测试样本;第二个阶段,样本筛选阶段,选择出对最新的测试样本最具表示能力的M个训练样本;第三个阶段,决策识别阶段,用这M个训练样本做人脸识别.通过与经典算法的对比实验证明,提出的3PTSR人脸识别算法能有效解决多姿态人脸识别问题.      

特征空间中的拓展稀疏人脸识别

基于稀疏表示分类（SRC,sparse representation for classification）是近年来模式识别领域中备受关注的一个研究热点。当每类训练样本较少时,SRC的识别效果往往不理想。为解决此问题,人们提出了拓展的稀疏表示分类算法。它引入了训练样本的类内变量矩阵,来补充每类训练样本信息。但是,该方法很难获取普遍存在于复杂数据如图像中的非线性信息。为此,提出了特征空间中的拓展稀疏人脸识别算法。该算法将样本集非线性映射到新的特征空间中,计算每个训练样本在表示测试样本时所做的贡献。根据贡献大小,给每个训练样本赋予一定的权重。同时,利用类内变量矩阵,共同表示测试样本。实验表明所提出的算法优于其它经典稀疏表示分类算法。     

一种支持向量分类学习算法

分析样本与KKT条件之间的关系以及新增一个样本点对原支持向量分类学习结果的影响,并针对支持向量机在较多训练样本时需要较大的计算量和内存的问题,基于已有的算法提出了一种新的学习算法．实现了对样本集的有效压缩,有利于运算速度的改善．     

基于交叉覆盖算法的改进算法-最近邻交叉覆盖算法

交叉覆盖算法分类时着重在于两类的交界部分,混杂在另外一类中往往无助于提高分类器的效率,反而会增加分类器的计算负担。本文提出一种基于交叉覆盖算法的最近邻交叉覆盖算法(NN-ACA):对进行训练的原始样本数据进行预处理,删除这些不同类的最近邻点,得到精简后的样本集,再对该样本集使用交叉覆盖算法。通过实验和与SVM的比较,结果表明NN-ACA在一定的样本规模表现了速度和分类正确性上的优越性。     

神经网络用于模式识别分类的改进算法

用ＢＰ神经网络算法进行模式识别分类,即使对一个训练比较好的网络也极有可能出现样本的导师模式（真实模式）与网络判定模式不符的情况,即会出现误判样本。当待判样本与某一误判训练样本比较接近时,网络很可能对其造成模式误判。为此,本文通过引入训练样本的正、误判子集及定义在其上的待判样本的距离,将距离算法和ＢＰ算法相结合,提出了解决这一问题的新方法。     

基于改进主动学习和自训练的联合算法

针对主动学习面向大型数据集人工标记成本过高和半监督自训练算法中存在误标记点影响的问题,提出了一种主动学习与半监督自训练交替迭代训练的联合算法．算法在训练过程中奇数轮次采用主动学习算法,偶数轮次采用自训练算法,通过2种算法的交替迭代训练以弥补彼此不足．自训练算法对无标记样本的预测减轻了主动学习标记样本的负担,同时主动学习标记易变成噪声的样本,减轻了自训练算法训练过程中对样本的标记错误．提出了一种基于密度峰值聚类和隶属度的改进主动学习算法:将初始无标记样本聚类成簇,根据隶属度差值在每个簇内选取部分样本做人工标记,获得可表达样本的整体结构的均衡样本．仿真试验表明:提出的联合算法在性能上要优于2种单一算法．对比常见的主动学习算法,改进后的主动学习算法分类性能得到显著提升,将其应用于联合算法中的效果更具优势．      

一种基于主成分分析的稀疏数据模式分类隐私保护算法

 模式分类过程涉及到对原始训练样本的学习,容易导致用户隐私的泄露。为了避免模式分类过程中的隐私泄露,同时又不影响模式分类算法的性能,提出一种基于主成分分析（PCA）的模式分类隐私保护算法。该算法利用PCA 提取原始训练数据的主成分,并将原始训练样本集合转化为主成分的新样本集合,然后利用新样本集合进行分类学习。选用Adult 数据集和KDDCUP 99 数据集进行仿真实验,并采用正确率和召回率进行性能评价,结果表明,该隐私保护算法通过PCA 提取原始数据特征属性的主成分,可避免原始属性的泄露,同时PCA 在一定程度上可实现去噪,从而使分类器的分类性能优于原始数据集的分类性能。与已有算法比较,该隐私保护算法具有更好的模式分类精度和隐私保护性能。     

一种适用于不均衡数据集分类的KNN算法

传统的K-最邻近(K Nearest Neighbor,KNN)分类算法在处理不均衡样本数据时,其分类器预测倾向于多数类,少数类分类误差大。针对此问题从数据层的角度改进了传统的KNN算法。先通过K-means聚类算法将少数类样本聚类分组,将每个聚类内的样本作为遗传算法的初始种群;再使用遗传交叉和变异操作获取新样本,并进行有效性验证。最终获取到各类别样本数量基本均衡的训练样本集合。实验结果表明此方法有效改善了KNN算法对少数类分类效果。此法同时适用于其他关注少数类分类精度的不均衡数据集分类问题。     

局域极端学习机及其在状态在线监测中的应用

针对训练样本贯序输入时的极端学习机(ELM)训练问题,提出一种可实现在线训练的局域极端学习机(LELM).LELM以逐次增样训练与减样训练的方式实现在线训练,从而有效保持了简约的模型结构,同时利用分块矩阵求逆引理有效减小了多次模型训练的计算代价.混沌时间序列在线预测仿真表明,LELM的在线训练时间远小于ELM,且预测精度更高.基于时间序列预测的雷达发射机状态在线监测实例表明,相比于利用粒子群优化的自适应灰色模型方法,LELM具有更高的计算效率与预测精度,适用于电子系统状态在线监测.