基于小世界无标度特征的回声状态小波网络

针对储备池的适应性问题,提出了一种复合回声状态网络模型(CESN).CESN依据增量生长准则构建小世界无标度进化状态储备池,解除了储备池谱半径的限制.同时,CESN将离散小波函数作为神经元的激活函数,用Symlets小波函数替代部分储备池神经元的S型函数,Symlets小波函数的伸缩和平移变换特征丰富了动态储备池的状态空间.将CESN应用于一些非线性时间序列逼近问题中,即NARMA系统、Henon映射和二氧化碳浓度预测.实验结果表明,在逼近高度复杂的非线性系统方面,CESN明显优于注入Symlets小波的经典回声状态网络(S-ESN)和具有高聚类系数的无标度回声状态网络(SHESN).      

基于生物进化的可恢复回声状态网络模型

为解决回声状态网络储备池在遭受随机故障和蓄意攻击等复杂情况下的适应性问题,提出了一种具有生物进化特征的可恢复回声状态网络—3DP-RESN.基于优先匹配的复制、新增加连接的变异和新增加连接的死亡进化策略,3DP-RESN能够实现从被破坏的网络拓扑中自恢复.将3DP-RESN、传统ESN（CESN）和被破坏的ESN（DESN）应用于NARMA系统、Henon映射和figure8这3种非线性时间序列逼近任务.实验结果表明,当储备池发生故障时,3DP-RESN对于3种时间序列的预测精度明显优于DESN,接近甚至高于未遭受储备池故障的CESN,尤其在figure8实验中,3DP-RESN与CESN、DESN相比,预测精度分别提高了30.56%和7.01%.此外,3DP-RESN的短期记忆能力也接近于CESN,因此,3DP-RESN具有强大的自适应恢复能力.