多层神经网络共轭梯度优化算法及其在模式识别中的应用

将神经网络总体平均误差作为目标函数,以待求的神经网络权值和阈值作为设计变量,通过设计变量合理排序与分配,提出多隐层多层神经网络权值和阈值计算的高精度真实共轭梯度最优化算法·与BP算法和梯度优化算法相比,既能实现每步迭代在搜索方向上获得最优步长保证目标函数递减,又能克服在目标点附近的振荡现象·编制出神经网络权值和阈值计算的通用程序,给出神经网络合理结构选择的基本原理·通过足球机器人位置分析算例的神经网络分析和模式识别,表明所提出算法的有效性和实际应用价值·     

基于残差网络的微波关联成像目标重构方法研究

微波关联成像将量子强度关联成像的思想扩展到微波领域,不仅很好地解决了传统雷达无法进行高分辨凝视成像以及复杂的运动补偿等问题,还具有分辨率高、抗干扰能力强等特点,受到广泛关注.针对微波关联成像传统重构算法在低采样数条件下重构质量差问题,将残差网络和卷积神经网络应用于微波关联成像重构中,提出一种基于残差网络的微波关联成像方法,以雷达接收机回波数据作为网络的输入,依次通过训练好的特征提取网络和图像增强网络,进行高质量图像反演,并将文中算法与伪逆算法和压缩感知算法进行仿真对比分析.仿真结果表明:在相同采样率下,文中算法成像质量均高于其他算法.同时,在不牺牲图像质量的条件下,单张图像重构执行程序所耗时间约为0.06s,提高了图像重建的速度,对工程应用有重要意义.     

一种风电场风速异常数据预处理的新方法

针对风电场采集到的历史风速数据中存在异常值的问题,为保证风速数据的准确性和有效性,提出了一种运用差分自回归滑动平均(auto regressive integrated moving average,ARIMA)、小波分解(wavelet decomposition,WD)和隐马尔科夫(hidden Markov model,HMM)组合算法对异常风速数据进行挖掘的方法.采用ARIMA模型挖掘异常风速数据的潜在特征,得到反映风速值异常情况的残差序列;为进一步提高检测精度和降低系统误差的干扰,采用小波分解方法捕获残差序列中的粗大误差特征;借助HMM算法的双重随机过程检测异常风速值并剔除,将剔除异常值后的数据运用粒子群优化最小二乘支持向量机方法进行重构,保证风速序列的完整性.实际算例结果表明了所提方法的有效性和可行性.     

基于聚类和文化算法的补偿模糊神经网络建模方法

根据补偿模糊神经网络的建模特点,提出了基于聚类和文化算法的补偿模糊神经网络建模方法。该网络的学习分为两步:结构辨识和参数辨识。在结构辨识中,采用改进的聚类算法确定模糊规则数及初始参数,构造一个初始模糊模型;在参数辨识中,采用基于多层信念空间的文化算法对具有5层结构的补偿模糊神经网络参数进一步优化,使其具有更高的精度。通过对TE过程的故障诊断建模,结果表明该网络在建模精度和收敛速度上均优于常规补偿模糊神经网络和常规模糊神经网络。     

基于残差补偿的极限学习机自编码器

极限学习机自编码器作为无监督降维方法,通过重构输入数据来提取原始样本特征,具有学习速度快、泛化性能高等优势.但经典极限学习机自编码器表示能力有限,使得重构输出和原始样本之间的残差不可避免.因此借鉴残差补偿思想,提出基于残差补偿的极限学习机自编码器,通过不断对重构残差补偿式学习来改善ELM-AE的表示能力.在6个公开数据集上进行K-means聚类实验,结果表明基于残差补偿的极限学习机自编码器(RCELM-AE)能够有效提高聚类准确率.     

基于APCA的电站热力过程故障传感器自适应检测方法

为自动适应电站热力过程的连续变化,提出了基于APCA的电站热力过程传感器故障诊断方法,通过模型参数的自动更新,使模型及时反映当前的系统状态,从而连续可靠运行.对PCA重构残差进行研究,在对电站实际测量数据可靠性分析的基础上提出了参数自适应预估计方法,利用预估计值来替代故障数据,以抑制残差污染,提高重构参数的准确性.利用电厂实际测量参数进行了算例分析,表明所提算法能很快适应系统状态变化,并给出正确的检测结果,即使在系统同时存在多个传感器故障时,通过对不良数据的检验,也能够获得准确的重构数据.     

基于残差网络的微波关联成像目标重构方法

微波关联成像将量子强度关联成像的思想扩展到微波领域,不仅很好地解决了传统雷达无法进行高分辨凝视成像以及复杂的运动补偿等问题,还具有分辨率高、抗干扰能力强等特点,受到广泛关注。针对微波关联成像传统重构算法在低采样数条件下重构质量差问题,将残差网络和卷积神经网络应用于微波关联成像重构中,提出一种基于残差网络的微波关联成像方法,以雷达接收机回波数据作为网络的输入,依次通过训练好的特征提取网络和图像增强网络,进行高质量图像反演,并将文中算法与伪逆算法和压缩感知算法进行仿真对比分析。仿真结果表明:在相同采样率下,文中算法成像质量均高于其他算法。同时,在不牺牲图像质量的条件下,单张图像重构执行程序所耗时间约为0.06s,提高了图像重建的速度,对工程应用有重要意义。     

一种RBF神经网络高精度算法研究及应用

剖析了RBF神经网络基本算法的原理以及激励函数参量与隐层单元数量按经验选取所带来的问题.基于RBF神经网络结构,以网络的权阈值为设计变量,网络误差为目标函数,通过合理的动态变量排序,构建了一种RBF神经网络的新的高精度算法,并编制计算程序.与RBF网络基本算法相比,这种算法是以权阈值为未知变量的真实优化过程,实现了RBF神经网络的高精度计算.从方程论理论出发,给出了网络隐层结构的合理确定方法.通过实例的程序分析,表明了该优化算法具有较高的样本拟合与插值精度,为进一步理论研究与工程应用提供基础.     

多值光谱自联想反馈神经网络

将神经元状态取值的多样化和光谱自联想反馈神经网络的理论相结合,提出了多值光谱自联想反馈神经网络,有效扩展了Ronald G. Spencer提出的光谱自联想反馈神经网络.多值光谱自联想反馈神经网络的优势,主要在于有效扩大了网络神经元状态的取值范围,使其不仅能存储两级样本,亦可存储一些其他值,这样能使神经元之间的联系更为紧密.实验结果亦表明其优越性更加适应于在通信领域中应用.     

基于特征补偿的深度神经网络重建超分辨率图像

为有效恢复图像的高频信息,本文提出一种基于特征补偿的深度神经网络重建超分辨率图像方法.该方法结合密集型深度卷积神经网络和残差网络,并将原图像的高频信息单独提取上采样后与重建后的超分辨率图像融合形成高频特征补偿,使得图像质量提升.通过实验对比,本文算法相比于SRCNN算法重建出的超分辨率图像效果提升约1 db.     

脉冲时滞BAM神经网络稳定性研究

研究了带有脉冲的时滞双向联想记忆(BAM)神经网络的稳定性问题.通过对网络系统的研究,根据脉冲的特点,采用Lyapunov稳定性理论和一些矩阵分析的技巧,得到了脉冲时滞BAM神经网络的稳定性结论,其中包括稳定点的唯一性判据和稳定性的判据,说明脉冲时滞BAM神经网络的稳定性问题是网络本身的特性,最后通过数值算例验证了论文的可行性和有效性.     

CVS中基于残差结构特征的块分类重构算法

现有最好的视频压缩感知重构算法大都采用"预测-残差重构"策略,可有效利用帧内和帧间的相关性获得较好的性能,但是残差重构均直接采用SPL算法,忽略了残差信号自身的结构特征,限制了性能的进一步提升.针对该问题,文中提出了一种基于预测残差结构特征的块分类重构算法,首先利用残差块观测值的平均能量对残差块进行分类,然后对不同类的残差块采用不同的重构算法.仿真实验表明,用于运动较快的视频序列时,文中方案与SPL算法相比可以获得更好的重构质量.     

自适应神经网络在短期负荷预测中的应用

采用基于混沌算法的自适应预测模型,应用于电力系统短期负荷预测.选取重构相空间中的饱和嵌入维数作为神经网络的输入节点数,适当选择非线性反馈项,能使网络的动力学在权空间具有混沌行为.通过进化算法建立一种自适应机制,使得网络能够根据学习和训练的结果优化非线性反馈项.算例表明,该算法具有很强的自适应能力和鲁棒性,精度高.     

新的三层BP神经网络算法在解谱分析中的应用

介绍了一个三层BP(back propagation)神经网络结构,并推导出LM(Levenberg-Marquardt)算法对网络的权重和偏置的更新.然后用LM算法和带动量的梯度算法来分别训练网络.结果表明:这两种算法得到的残差都在一个很小的范围内,应用神经网络技术解复杂X射线谱具有良好的优越性;而LM算法收敛更快,为我们节约了大量的解谱时间.还对解谱的残差进行了分析,提出了神经网络解谱的过程中需要注意的问题及其缺陷.     

结合位置关系卷积与深度残差网络的三维点云识别与分割

针对现有点云识别与分割算法因忽视点的位置特征和局部几何特征关系而导致难以捕获具有鉴别力的局部几何信息的问题,提出基于位置关系深度残差神经网络的三维点云识别与分割算法。将原始点云嵌入到高维空间并获取其高维特征;将点云的高维特征输入位置关系卷积实现局部邻域内当前点特征与位置几何特征的信息交流,并通过深度残差模块强化提取到的深层语义特征,分层重复以上步骤可逐步得到点云的高级上下文语义特征;通过全连接层与解码器,得到点云的识别与分割结果。实验结果表明,所提算法在ModelNet40点云分类数据集的识别精度达到了93.9%,在ShapeNet Part点云部件语义分割数据集的平均交并比达到了86.0%。所提算法能够提取三维点云的关键特征信息,具有较好的三维点云识别与分割能力。     

格心型有限体积法格点变量重构方法研究

根据网格格点变量计算单元变量梯度是二阶空间精度格心型有限体积法梯度重构的常用方法,该方法的关键是根据格点的邻接单元格心变量构造满足局部线性分布的格点变量.采用加权最小二乘法进行格点变量重构,考虑实际格心变量的非线性分布,提出采用距离反比加权体现不同位置单元对格点变量的影响程度差异;针对扰动或弯曲网格中的格点变量重构出现极值的现象,采用了新的限制方法.采用高雷诺数边界层流动计算中常见的大长宽比、扰动/弯曲网格进行测试,将提出的方法与通常采用的加权平均方法和拟拉普拉斯方法进行对比.算例结果显示距离反比加权的最小二乘法重构精度较好,提出的限制方法避免了扰动/弯曲网格上的格点变量出现极值.     

基于自组织拟合的曲面重构与数控加工方法

提出了一种以型值点集合描述自由曲面的数字化模型,据此设计了从密集数据点群重构曲面数字化模型的自组织拟合及重构算法.该算法利用局部规则对测量点群进行自组织拟合,形成型值点集合及局部规则的表达形式,每一个局部区域的型值点集合满足特定的拟合规则,造型和加工时根据局部规则进行插值和刀具轨迹计算.通过仿真对基于二次多项式局部规则的高次曲面的迭代拟合算法进行了分析,以一个实际的人脸模型数据为例,实现了从测量点群到自组织模型的重构和加工,并将其与SDSCAD1.0曲面重构系统进行对比,结果表明:计算简单且稳定性好,编程效率高.     

基于自动编码器和长短时记忆网络的智能汽车故障诊断方法研究

智能汽车故障诊断技术对于保障智能汽车安全行驶具有重要意义,本文针对智能汽车传感器数据异常检测和车辆运动的异常检测提出了一系列故障诊断方法. 针对非时序传感器数据,采用基于超限学习框架的自动编码器,对正常数据进行特征压缩学习其特征表示,再利用压缩的特征重构数据,根据重构误差的大小判断数据是否异常. 针对时序传感器数据,采用多层长短时记忆网络学习时序数据之间的时间依赖关系来预测当下时刻的数据值,根据预测误差的大小判断数据是否异常. 提出一种阈值随误差大小动态变化的自适应阈值确定方法,使得决策变量对于异常值相对敏感. 进一步地,采用车辆自行车运动学模型和Kalman滤波,利用Jarque-Bera测试对预测值和量测值残差的正态性进行检验来检测车辆运动是否异常. 实际场地测试验证了本文所提出的方法可以有效检测非时序或时序传感器数据的异常,并对车辆运动是否异常进行检测.     

具有时滞的双向联想记忆神经网络的鲁棒稳定性

应用线性矩阵不等式技术研究了时滞双向联想记忆神经网络的平衡点稳定性问题.针对存在参数不确定的时滞双向联想记忆神经网络,根据Lyapunov稳定理论,通过构造适当的Lyapunov-Krasovskii泛函,给出了保证双向联想记忆神经网络平衡点全局鲁棒稳定的两个新判据.所得到的结果能够表示成线性矩阵不等式形式,具有易于验证和独立于时变时滞幅值大小等特点.对于慢时变时滞的情况,当时滞幅值较大时,所得结果具有较小的保守性.通过一个仿真例子表明了所得结果的有效性.     

基于多变量相空间重构的地下水动态神经网络预测模型

从多元变量时间序列出发,以相空间重构理论为基础,结合偏最小二乘回归与神经网络方法,提出了基于多变量相空间重构地下水动态预测的神经网络模型.通过分别确定各个时间序列的时间延迟和嵌入维数的方法对地下水动态的多变量时间序列进行相空间重构,采用偏最小二乘回归法提取对系统解释最强的成分作为网络输入,利用神经网络模型进行各成分之间的非线性拟合.将基于多变量相空间重构地下水动态预测的神经网络模型应用于黑龙洞泉域地下水位预测,并通过分析与比较验证了该方法的有效性.