前馈网络灵敏度：分析及降低算法

在前馈网络中，不同的权值组合可逼近同一映射。网络的灵敏度取决于权值的变化。文中提出了计算网络灵敏度的方法和一种降低网络灵敏度的学习算法。网络的灵敏度分析包括单输出、多输出及输入变化、权值变化等情况。学习算法是在网络训练过程中加入随机噪声。次种学习算法与传统学习算法相比，可降低网络的灵敏度，但学习收敛速度基本相同。     

前馈神经网络权值和拓扑结构的一个学习算法

从三层前馈神经网络作为样本分类器时隐结点常常起着聚类作用的想法出发，提出一种在权值学习过程中调整网络拓扑结构的学习算法．实验结果表明，该法能在网络的权值学习过程中比较有效地选择网络的拓扑结构，同时又具有较快的学习收敛速度     

神经网络迭代学习控制快速算法的研究

研究了非线性系统的神经网络迭代学习控制问题，为了提高神经网络学习控制的收敛速度，改进了权值的迭代学习算法，提出了一种新的训练权值方法，它以递推的方法来计算网络权值，不仅能减少计算量且收敛速度快，最后，用仿真结果对该算法作了进一步的验证。     

一种基于综合目标函数的神经网络学习算法

为提高多层前向神经网络的学习速度和算法的稳定性,提出一种基于综合目标函数的改进学习算法.该算法在误差平方和目标函数中引入一个辅助约束项构成综合目标函数,并利用综合目标函数训练网络的输出层权值,采用牛顿法推导出训练输出层权值的递推公式.辅助约束项隐含有对网络输出平滑性的约束,提高了学习算法的稳定性.利用该算法对不同非线性函数生成的样本数据的学习结果表明,新算法的收敛速度、精度均优于Karayiannis等人的二阶学习算法.     

基于Kohonen神经网络的遥感影像监督分类

作为一种自组织网络,Kohonen神经网络在遥感影像聚类中得到了广泛的应用.但Kohonen算法具有初始权值随机化、学习率和邻域难以确定等缺陷,并且作为一种聚类算法,难以直接进行监督分类.对Kohonen非监督学习算法进行改进,用最大最小距离法确定初始权值,利用权值误差作为网络训练收敛条件,并将Kohonen算法与奖惩...     

一种具有自适应动量因子的BP算法

为提高神经网络的训练速度,提出一种自适应确定带动量项BP算法中动量因子的方法.在学习率为常数情况下,根据误差函数关于权值向量的梯度变化情况,自适应调节动量因子.数值试验表明,该方法对离线和在线训练均有效,且在收敛速度和算法稳定性上优于常动量因子的BP算法.     

基于Kalman滤波的基本Elman网络训练新算法

Kalman滤波算法应用于基本Elman网络学习时,收敛速度较快,但收敛精度往往不高;而基于梯度下降的BP算法可以以很高的精度实现输入输出的非线性映射,但在极值点处收敛速度缓慢.针对上述问题,提出一种将Kalman滤波算法应用于基本Elman网络的新学习训练算法.该算法结合Kalman滤波算法和基于梯度下降的BP算法的优点来训练网络,以基本Elman网络隐层单元输出作为非线性系统的状态变量,通过Kalman滤波算法实现状态变量的快速准确跟踪,然后通过梯度下降法修正权值以保证精度.另外,在训练过程中,通过增加训练样本的信息内容来提高网络收敛的精度.仿真结果表明了该算法的有效性.     

BP学习算法的改进与应用

对ＢＰ学习算法中存在的大量局部极小点以及收敛速度慢问题进行研究并提出相应的改进方案。方法采用类似模拟退火算法调整网络权值修改量η和动量项α以及对学习样本进行按类划分。结论算法的改进提高了识别率并降低了学习时间。     

基于磨光函数的权值直接确定双输入BP神经网络

利用磨光函数与采样数据建立了双输入单输出的权值直接确定的BP神经网络。改进后的网络依据训练数据重要性,选择以数据为中心的磨光函数作为激励函数,同时网络结构可以根据数据多少得到相应的调整。根据误差反向传播学习算法得到了改进后网络的权值直接确定算法。在仿真中,利用2个不同的目标函数验证了改进算法的有效性与建模精度。实验结果表明,三次磨光函数建立的网络性能优于二次磨光函数建立的网络。     

一种用于Ad Hoc网络的分布式证书撤销算法

分析了Ad Hoc网络安全基础设施存在的问题,提出了一种用于Ad Hoc网络的分布式证书撤销算法．该算法把证书的撤销分为无条件撤销和有条件撤销两类．利用撤销矩阵R(T)和权值向量W(T)分别对网络节点之间的撤销关系和网络节点的可信度进行描述,并引入撤销影响因子α来限制单个节点撤销操作的力度,增加多节点联合撤销的力度,以提高撤销的可靠性．通过权值迭代关系式逐步实现网络运行过程中权值的不断更新变化．最后定量分析了分布式证书撤销算法的可靠性,以及撤销影响因子α的取值和其对证书撤销可靠性的影响。     

基于神经网络的全局寻优自适应BP学习算法

根据梯度算法中网络权值的演化规律，并基于终端吸引子，提出一种能全局寻优自适应的快速BP算法，该算法的基本思想足最小二乘算法，采用梯度搜索技术，以期使网络的实际输出值与期望值的误差的均方值为最小．同时，进行BP学习算法的稳定性和快速收敛问题分析研究．并进一步给出改善BP算法学习率修正、假饱和现象消除等训练结果的措施．     

基于遗传与BP混合算法神经网络预测模型及应用

提出用遗传学习算法和权重调整BP算法相结合的混合算法来训练模糊模式识别神经网络预测模型；即先通过遗传学习算法进行全局训练，再用权重调整BP算法进行精确训练，使网络收敛速度加快和避免局部极小。作为实例，以新疆雅马渡站的实测径流资料和相应的前期4个预报因子实测数据作为样本进行训练并用以预测雅马渡站的年径流量。结果表明，该方法具有收敛速度快和预测精度高的特点。     

基于综合目标函数的神经网络多新息辨识算法

为提高动态神经网络学习算法的辨识精度及抗噪性能,提出一种基于综合目标函数的多新息辨识算法。该算法基于多新息理论在最小均方误差目标函数中引入一辅助项构造综合目标函数,利用该目标函数进行网络输出层权值的训练,并采用牛顿法推导出输出层权值的递推计算公式。与已有二阶学习算法相比,新算法鲁棒性强,收敛速度快,辨识精度高。仿真结果验证了算法的有效性。     

基于免疫的RBF网络在线学习算法研究

提出一种新的基于免疫的RBF网络在线算法.首先是融入增加结点策略和减少结点策略,把传统的免疫RBF网络算法改进成在线学习算法.其次是改进了权值学习算法,径向基函数相当于这一类的概率密度,隐层到输出层权值相当于这一类的值.用这种方法权值不需要训练.试验结果表明,该方法效果理想、速度快,识别率高.     

基于改进遗传算法的神经网络优化

针对在神经网络应用中,存在结构设计及权值训练算法的不足,提出一种新的基于混合编码方案的遗传算法.在算法中设计了用遗传算法全局优化神经网络拓扑结构和网络权值的新的编码方案,改进了适应度函数的设计和采用自适应的交叉和变异方法.试验结果表明本算法能有效地对神经网络的权值和结构同时优化,提高了训练效率.     

最优化算法在BP网络中的应用

BP（Back Propagation）网络是在1986年以Rumelhart和Mccelland为首的科学家小组提出,它是按误差逆传播算法训练的多层前馈网络,已成为目前应用最为广泛的神经网络模型之一。它的学习规则是使用最优化算法中的最速下降法,根据此得到的最优解来通过反向传播来不断调整网络的权值和阈值,以使网络的误差平方和最小。     

基于深度信念卷积神经网络的图像识别与分类

针对基于卷积神经网络的图像识别采用随机初始化网络权值的方法易收敛到局部最优值的问题,该文提出了一种结合无监督和有监督学习的网络权值预训练算法。融合零成分分析白化与深度信念网络预学习得到的特征,对卷积神经网络权值进行初始化;通过卷积、池化等操作,对训练样本进行特征提取并使用全连接网络对特征进行分类;计算分类损失函数并优化网络参数。在公开图像数据库中进行了大量实验,与公开最佳算法比较,该算法在MNIST中的识别错误率降低了0.1%,在Caltech101中的分类准确率提升了0.56%,验证了该算法优于现有算法。     

异构网络垂直切换性能参数分析及算法研究

以蜂窝网与无线局域网(WLAN)融合为例,研究异构网络之间的垂直切换算法。对影响切换算法性能的各网络端及用户端参数进行了分析研究,包括参数的定义、在不同接入网中的取值范围、参数之间的关系及参数的归一化等。针对参数对切换算法及系统性能的影响,进行了参数分类,将参数分为切换先决条件、切换判决条件及切换辅助条件,并根据参数分类提出了新的垂直切换算法。该算法采用可变权值,即算法中各性能参数的权值依据用户业务特性,移动模型及用户对各网络的喜好等因素进行动态调整。与目前固定权值的垂直切换算法相比,提出的算法考虑了不同用户特性及QoS需求,可提高用户满意度及网络整体性能。     

BP学习算法的改进与应用

目的　对BP学习算法中存在的大量局部极小点以及收敛速度慢问题进行研究并提出相应的改进方案。方法　采用类似模拟退火算法调整网络权值修改量η和动量项α以及对学习样本进行按类划分。结果　使用改进后的BP算法对480个学习样本进行学习,识别率从70%提高到95%,学习时间从4h下降到30min左右。结论　算法的改进提高了识别率并降低了学习时间。     

采用结构与参数训练相结合的RNN模型构建基因调控网络

提出一种采用递归神经网络模型构建基因调控网络,将结构训练与参数训练相结合的方法进行网络的权值训练.采用模拟退火算法训练网络结构,找出调控关系权值,再引入基于免疫思想的粒子群算法对权值进行参数优化,得到基因调控网络图.并分别用人工数据和大肠杆茵DNA修复系统基因数据进行实验.实验结果表明,该方法能有效地从基因时序数据中揭示基因间的调控关系.