基于先验知识的混凝沉淀过程神经网络建模研究

摘 要：结合最优方法中的惩罚函数，利用已知对象的先验知识，把先验知识通过惩罚函数的方法加入到神经网络的性能函数当中，从而使训练过程体现先验知识的约束作用，使最终所得模型不违背先验知识．通过真实的数据仿真表明，利用该方法训练所得模型不违背先验知识，模型可靠程度更高，其中约束条件的强弱由惩罚因子的大小决定．此方法对于提高利用较少数据样本神经网络训练所得模型的可靠性以及加快网络建模速度都有重要的参考价值．     

基于过程神经网络与气动热力参数的航空发动机状态监视

采用前馈过程神经网络方法预测发动机排气温度，讨论了网络输入输出参数的选择问题，基于正交基函数简化了前馈过程神经网络的聚合运算，提出了从前馈过程神经网络向传统前馈神经网络网络模型的转化方法，基于传统前馈神经网络先验知识给出了学习算法，进行了网络训练及仿真，取得了满意的结果。     

基于权值e指数信息熵的前馈网络修剪算法

针对神经网络结构设计的难点,定义神经网络连接权值的e指数信息熵,该熵克服了Shannon熵固有的缺点,但与Shannon熵对不确定性的描述具有相同的效果.将其作为惩罚项引入神经网络学习的目标函数中训练神经网络,由于熵函数特有的属性,对神经网络中小的连接进行惩罚而对大的连接进行鼓励,从而使神经网络中小的权值迅速收敛到零值附近.通过删除零值附近的权连接进而达到简化神经网络结构的目的.典型非线性函数逼近的仿真试验结果表明,该修剪算法在保证其逼近性能的同时,可以简化神经网络结构.     

应用遗传算法和LM优化的BP神经网络模型预测机场道面使用性能

分析了影响道面使用性能的各种参数,结合BP神经网络和遗传算法来预测机场道面使用性能.通过遗传算法全局寻优功能对神经网络的初始权值和阈值进行优化,然后采用LM(Levenberg-Marquardt)优化算法对神经网络训练速度进行加速,并且使训练避免陷入局部极小点.通过历年数据对神经网络进行训练,用所得神经网络模型对机场道面使用性能进行预测.训练结果表明,该方法具有足够的精度,能够应用到工程实际中.     

基于径向基函数神经网络的水轮发电机组效率曲线计算方法

提出用径向基函数(RBF)神经网络进行水轮发电机组效率曲线计算的方法，并建立了径向基函数神经网络模型，以有限水头下原型效率试验数据为样本进行训练，所得的网络可快速准确地计算任意水头下的效率特性曲线。与BP神经网络模型的对比结果表明，该方法避免了BP神经网络的局部极小及收敛速度慢等缺点，在精度、训练速度等方面优于BP神经网络。     

BP网络学习参数模糊自适应算法的实现

前馈神经网络ＢＰ算法的改进方案中，对网络训练（学习）过程率和惯性系数进行模糊自适应调节，以提高收敛速度，晃一项很有效的措施。文中具体分析了如何根据设计者的先验知识确定模糊规则和录属函数，并以三比特异或函数（或称奇偶分类）的实现为例，验证了这种算法的改进、加速了ＢＰ网络的学习过程。     

非线性系统建模的复合型模糊神经网络研究

针对非线性系统建模问题,提出了一类由函数逼近和规则推理网络构成的复合型模糊神经网络,其规则网络基于过程先验知识用于对操作区间的划分,而函数网络采用改进型模糊神经网络结构完成非线性函数逼近。采用一类非线性函数模型进行了仿真研究,结果表明,复合型模糊神经网络较之普通模糊神经网络在建模收敛速度和预测精度等方面都有较大的改善。     

结合先验知识的深度Q神经网络算法研究

深度Q神经网络(deep Q-network,DQN)算法在训练初期,由于动作选择随机性强,导致算法的训练时间过长。针对该问题,文章提出一种结合先验知识的深度Q神经网络(priori knowledge-DQN,PK-DQN)算法,将先验知识定义为特征状态与最优动作的映射,根据先验知识对动作选择过程的影响程度,将先验知识引入DQN算法,优化DQN算法的动作选择规则,降低其在探索过程中的动作选择随机性,并使用赛车游戏对算法进行训练。实验结果表明,PK-DQN算法能够更快收敛,有较高的学习效率,算法训练时长明显缩短。     

基于情感轮和多任务卷积神经网络的图像情感分布学习

图像情感分布学习可以对多种情绪同时进行建模,但现有的模型缺乏有效的方法直接考虑情绪之间的相关性.针对这一问题,该文提出一种基于情感轮和多任务卷积神经网络(EW-MTCNN)的图像情感分布学习模型,通过先验知识模块将心理学情感知识直接引入到深度神经网络中.基于Mikel's情感轮定义成对情绪之间的相关性,EW-MTCNN模型采用多任务卷积神经网络学习情绪之间的相关性信息,同时优化情感分布预测和情绪分类任务.EW-MTCNN模型由3个模块组成,3个模块分别是图像特征提取层、情感轮先验知识层和多任务损失层.在情感分布数据集(Emotion6)和单标签数据集(Artphoto)上进行对比实验的结果表明:EW-MTCNN模型在情感分布预测与情绪分类任务上比其他情感分布学习方法具有更优的性能.     

基于Horseshoe+先验的惩罚置信区域变量选择方法

针对高维稀疏线性回归问题,相关变量的数量远远少于不相关变量.相关变量的变量选择问题对于传统的频率论正则化方法是一大挑战.现有的贝叶斯惩罚置信区域法通过将模型拟合与变量选择分离,在联合后验置信区域内搜索最稀疏解,从而得到稀疏模型解.且该方法在高维变量选择效果上优于常用的变量选择方法.在此基础上,针对高维稀疏模型,将原方法中依赖的共轭正态先验替换成针对"稀疏信号勘测问题"提出的Horseshoe+先验,利用Horseshoe+先验对小系数"重"压缩与大系数几乎零压缩的理论特性,实现对稀疏回归系数的稳健估计.通过数据仿真模拟不同稀疏程度下的高维稀疏线性回归,并将基于Horseshoe+先验的惩罚置信区域法分别与基于正态先验以及Laplace先验的该方法进行比较,结果表明基于Horseshoe+先验的惩罚置信区域法在高维稀疏线性回归问题具有更好的变量选择效果与预测效果.