回归函数的小波支持向量机鲁棒估计法

小波网络具有小波的多尺度特性和神经网络的自学习功能,在回归估计中得到广泛的应用,但其性能受到样本中粗差的严重影响.虽然以M-估计作为目标函数可以解决这个问题,但由于其对应的影响函数由残差绝对值决定,因此如何选择初始参数值成为一个关键问题.为此,提出回归函数的小波支持向量机鲁棒估计方法(小波支持向量回归,WSVR,Wavelet Support Vector Regression).该方法中首先提出并证明了一种新的小波支持向量机(WSVM,Wavelet Support Vector Machine),用于确定初始参数值方法,这种方法能够确定合理的网络结构和合适的初始参数值,保证含有粗差的样本点的残差绝对值较大;然后使用一种构造的M-估计作为目标函数,并提出了自适应确定阈值方法.仿真结果表明,使用这种方法得到的回归模型不仅具有良好的多尺度逼近特性,而且有较好的鲁棒性和较高的推广性能,具有较高的理论和应用价值.     

基于支持向量机的模糊小波神经网络

针对高维输入小波网络的初始参数和网络结构非常复杂且计算量大的问题,提出用支持向量机(SVM)确定小波网络的初始参数和网络结构的方法。首先,使用有监督模糊聚类算法从聚类中抽取模糊规则,然后对每一个规则的后件使用支持向量机方法确定小波网络的结构和初始参数,最后采用梯度下降方法调节模糊小波网络中的参数,使得模糊小波网络输出与期望输出之间的误差较小。仿真结果表明:该算法与传统的模糊神经网络(FNN)相比显著提高了分类精度。