回声状态网络的研究进展

回声状态网络是近年来新兴的一种递归神经网络,独特而简单的训练方式以及高精度的训练结果已使其成为当前研究的热点之一.在该网络中,引入了储备池计算模式这一新的神经网络的建设方案,克服了之前网络模型基于梯度下降的学习算法所难以避免的收敛慢和容易陷入局部极小等问题.围绕这种新型网络结构,国内外许多学者开展了多样的研究.本文全面深入介绍了回声状态网络这一新兴技术,讨论了回声状态网络的优缺点,并综合近年的研究现状,总结了回声状态网络的主要研究工作进展和未来的研究方向.     

基于Mackey-Glass混沌储备池计算的多波形识别

人工神经网络在模式识别和智能计算等领域具有重要的应用,但目前的人工神经网络存在结构复杂、训练耗时、占用大量的硬件资源等缺陷.设计了一种简单的基于MackeyGlass非线性方程的混沌储备池计算系统,它把大量不同时刻的混沌状态当作虚拟节点,从而简化了系统结构.利用系统分别实现了3种波形和对应3种不同频率的共9个不同波的识别,分析了储备池计算系统主要参数对多波形识别效果的影响.在最优系统参数条件下,对3种波形和9个波识别的归一化均方根误差分别达到了0.11和0.22.     

基于生物进化的可恢复回声状态网络模型

为解决回声状态网络储备池在遭受随机故障和蓄意攻击等复杂情况下的适应性问题,提出了一种具有生物进化特征的可恢复回声状态网络—3DP-RESN.基于优先匹配的复制、新增加连接的变异和新增加连接的死亡进化策略,3DP-RESN能够实现从被破坏的网络拓扑中自恢复.将3DP-RESN、传统ESN（CESN）和被破坏的ESN（DESN）应用于NARMA系统、Henon映射和figure8这3种非线性时间序列逼近任务.实验结果表明,当储备池发生故障时,3DP-RESN对于3种时间序列的预测精度明显优于DESN,接近甚至高于未遭受储备池故障的CESN,尤其在figure8实验中,3DP-RESN与CESN、DESN相比,预测精度分别提高了30.56%和7.01%.此外,3DP-RESN的短期记忆能力也接近于CESN,因此,3DP-RESN具有强大的自适应恢复能力.      

子波域一种新的多尺度多传感器状态估计

研究了多尺度状态参数估计问题.利用状态信号的多尺度特性,引入小波变换,建立了一个新的多尺度多传感器滤波算法.将函数全变差和局部变差概念引入到小波变换,提出了小波缩减因子的概念.通过小波缩减因子的引入,细尺度上的高频信号也得到了有效处理.仿真结果表明,该算法充分利用信号的多尺度特性,基于尺度级的信息融合大大提高了状态估计的精度.     

基于线性耦合储备池计算的电机系统混沌预测研究

为了解决永磁同步电机混沌时间序列预测的问题,本文提出2个线性耦合的储备池计算模型。通过寻求2个储备池计算中的最佳耦合系数,根据目标系统的时间序列数据能够预测目标系统的混沌行为,而达到预测精度更高,预测时间更长的效果。以永磁同步电机为研究对象,证明了线性耦合储备池计算在耦合系数α=0.803时,预测效果最优秀,误差Δ=9.14×10^-4。     

基于机器学习储备池计算的混沌保密通信机制设计与实现

针对传统混沌保密通信中安全性低、耦合机制复杂、接收端须配备特定动力学系统等问题,提出了一种基于机器学习——储备池计算(Reservoir Computing)的混沌保密通信设计,并通过数值与实验方法验证了机制的创新性与可行性。在数值方面,以图像和语音传输为例,采用具有更高安全性的时滞Lorenz系统和Mackey-Glass模型进行加密,在加密系统信息完全未知的前提下,接收端经训练后,可实现与发送端混沌完全同步并进行信息解密。在实验方面,基于可编程逻辑芯片(FPGA)对机制进行了硬件设计与实现,并以实时视频传输为例,验证了该保密通信设计的实际应用价值。还引入了针对不同加密系统的校准方法,以进行长时间稳定混沌同步和通信。此外,通过噪声研究,证明了该通信机制的鲁棒性。理论与实验结果对推动新型保密通信与机器学习交叉研究有一定的参考价值。     

基于回声状态网络模型的短时交通流混沌预测

为了提高短时交通流预测的准确度,提出基于回声状态网络模型的短时交通流混沌预测方法;利用C-C法计算相空间重构的延迟时间和嵌入维数;利用遗传算法对回声状态网络模型进行参数寻优,进而构建基于遗传算法的回声状态网络模型;采用城市快速路实测数据进行实验验证和对比分析.结果表明,所提出方法的预测效果明显优于支持向量机模型、小波神...     

基于状态回声网络模型的建筑规划类专业教学效果评价

建筑规划教学质量的高低,决定了建筑规划领域的人才培养,是建筑领域和教育行业共同关心的焦点问题.该文以建筑规划教学效果评价为核心,构建了由理论教学、实践教学、考核机制3个方向组成的评价指标体系.以理论教学、实践教学、考核机制为输入,以教学效果总体评价为输出,对状态回声网络进行了训练.通过对10届毕业生评价数据的调整训练,证实了实践教学对总体教学效果的影响最大,其次是理论教学和考核机制.据此,明确了实践教学是今后提升建筑规划教学效果的关键.     

一种新的状态估计混合智能模型

为实现发电机状态维修,研究一种新的状态估计混合智能模型。设计了一种基于径向基信息神经网络和模糊推理的模型,阐述径向基信息神经网络的结构和训练算法,介绍一阶Sugeno模糊模型的5层结构,根据专家经验知识选择合适的模糊输入隶属函数和模糊逻辑推理规则,而结论参数采用递归最小二乘法辨识。该模型充分利用各种在线监测装置的监测数据,特别是可利用领域专家的实践经验和专业知识,实现发电机状态估计。     

一种新的加热炉状态识别算法

最小距离法是一种应用非常广泛的状态识别算法,但其在使用过程巾要求待识别样本必须符合类内距离较小、类间距离较大这一前提条件,否则将会造成识别错误.针对最小距离法存在的问题,提出了一种基于人工神经网络的改进最小距离法,并将该方法应用于加热炉工况的状态识别.结果表明,该方法具有识别速度快、识别率高的优点,完全能够满足工业生产过程的需要.     

一种改进的回声隐藏算法

回声隐藏算法利用人类听觉系统的时域掩蔽效应来隐藏水印信息,其工作原理是人耳基本不能分辨强信号消失前嵌入的弱信号.针对回声隐藏算法中水印恢复准确率较低的问题,提出一种基于离散余弦变换和交织编码的隐藏算法.算法对水印图像进行离散余弦变换使其隐蔽效果更好,将变换后的信息进行交织编码以提高对常见攻击的免疫.实验证明,新算法的水印隐藏效果好、恢复率高,对常见的恶意攻击具有较好的免疫效果.     

基于小世界无标度特征的回声状态小波网络

针对储备池的适应性问题,提出了一种复合回声状态网络模型(CESN).CESN依据增量生长准则构建小世界无标度进化状态储备池,解除了储备池谱半径的限制.同时,CESN将离散小波函数作为神经元的激活函数,用Symlets小波函数替代部分储备池神经元的S型函数,Symlets小波函数的伸缩和平移变换特征丰富了动态储备池的状态空间.将CESN应用于一些非线性时间序列逼近问题中,即NARMA系统、Henon映射和二氧化碳浓度预测.实验结果表明,在逼近高度复杂的非线性系统方面,CESN明显优于注入Symlets小波的经典回声状态网络(S-ESN)和具有高聚类系数的无标度回声状态网络(SHESN).      

基于回声状态网络的船舶横摇运动预报

针对普通的递归神经网络训练过程较复杂,而且存在记忆渐消等问题,提出一种基于回声状态网络的船舶横摇运动预报方法.该网络将隐层设计成一个巨大的动态记忆库,具有记忆功能,隐层中的神经元在学习过程中不进行权值调整,而通过线性回归的方式训练网络,使网络记忆功能加强,学习速度加快.运用该网络对某型船舶在海浪遭遇角为90°海况下的横摇运动进行预报.结果表明:回声状态网络训练简单,加速了网络的训练速度,有更好的记忆性能,以预报60步为例,回声状态网络和对角递归神经网络预报的均方根误差分别为0.003 9和0.024 9,提高了近8倍,在相同的预报精度下,回声状态网络的预报时长明显增长,验证了该方法的可行性与有效性.     

一种新的ATM网业务模型

提出一种新的ＡＴＭ网业务模型，它去除了ＭＭＰＰ等信源业务模型中的泊松到达假设，更符合ＡＴＭ中业务的性质。它可以用于描述数据、语音、视频，甚至它们的复合业务流。给出了对这种模型进行排队分析的流体流分析法。最后以视频与话音业务的复合为例给出分析结果，并与仿真实验进行了对比，结果是令人满意的。     

一种新的心理状态数的估计

心理状态数是反映人们在日常生产活动中心理状态对他们的行为及其结果影响的重要指标.以往的研究都是假定心理状态对结果影响的偏态分布为N(0,σ2,c),这个假定存在一定的缺点.给出一种新的偏态分布,定义了新的心理状态数,并对其进行矩估计和极大似然估计,进而研究了估计的优良性.     

一种改进的声回声抵消算法

NL MS(normalized least mean square)算法是是自适应信号处理中应用最广泛的算法之一 ,它的最大缺点是收敛速度慢 ,对非平稳信号自适应能力差。为提高声回声抵消算法的收敛速度 ,采取了将语音分析中常用的线性预测作为前置滤波器的方法来减少参考信号的相关性 ,采用步长控制的方法来提高收敛速度 ,同时保持了 NL MS算法稳定性好和算法简单的优点。最后在模拟环境下对算法进行了测试 ,证明了比 NL MS算法具有更高的收敛速度和回声抵消量     

基于回声状态网络优化的宽间隔混沌跳频码预测研究

传统宽间隔混沌跳频码预测方法无反馈结构,记忆能力差;且训练过程烦琐,泛化性能差,对预测精度产生不好的影响。为此,提出一种新的基于回声状态网络优化的宽间隔混沌跳频码预测方法。设计回声状态网络,其由输入层、递归层以及输出层三个部分构成。在递归层内部各神经元间引入连接权值稀疏矩阵,使递归层内部存在动态记忆。回声状态网络储备池规模、储备池内部连接权谱半径、储备池稀疏度、储备池输入单元尺度对宽间隔混沌跳频码预测准确性产生不同的影响。通过和声搜索方法对四种储备池参数进行优化,实现回声状态网络的改进。确定优化回声状态网络输入输出数据,建立优化回声状态网络。确定储备池参数,通过训练数据激活储备池,计算回声状态网络输出连接权矩阵,对宽间隔混沌跳频码进行预测。实验结果表明,所提方法预测结果可靠,和其他方法相比有很高的预测精度。     

基于PLESN和LESQRN概率预测模型的短期电力负荷预测

针对现有电力负荷预测不能很好反映负荷数据的周期性和趋势性以及残差的波动性特征,提出一种考虑周期性建模的泄露积分型回声状态网络点预测模型和泄露积分型回声状态分位数回归网络概率预测模型组合的短期电力负荷预测方法。首先,为了捕捉负荷的多重特征,定义了周期性和趋势性损失函数,辅助优化点预测模型;然后,为克服残差的波动问题,利用概率预测模型对点预测值与真实值的残差进行建模预测;最后整合同时刻的点预测值与残差预测区间得到概率预测模型结果。实际算例结果表明,与其他模型相比,所提模型不仅有效抑制尖端振荡现象,而且能够生成可靠的概率密度分布。     

扩充的状态转移网对话模型及其实现

给出了基于对象类的扩充的状态转移网对话模型，阐述了该模型使用的两种抽象方法：归纳与聚合，并讨论了从对话设计到程序设计语言的实现策略。     

一种新的多模式快速匹配算法

提出了一种针对多模式的快速模式匹配算法.算法分为预处理阶段和匹配阶段两个部分,预处理阶段对所有待匹配的模式进行分析,构造一个关于这些模式的树型有限状态自动机,匹配阶段利用这个模式自动机,对文本串进行一次性的搜索,查找文本是否包含模式集中的模式.为了提高了匹配速度,算法利用已匹配的字符串信息实行跳跃式的比较,避免了文本扫描指针的回溯.