四种算法稳定之间的关系

在变一误差估计下研究的算法稳定,是研究算法推广性能的一种方法.本文讨论重叠稳定,CV稳定,弱假设稳定以及均值稳定四种条件相对比较弱的算法稳定之间的关系.     

四种算法稳定之间的关系

在变一误差估计下研究的算法稳定,是研究算法推广性能的一种方法。本文讨论重叠稳定,CV稳定,弱假设稳定以及均值稳定四种条件相对比较弱的算法稳定之间的关系。     

论如何提高子空间信息准则的精度

在机器学习中,子空间信息准则给出推广误差的一种无偏估计．本文分析降低SIC精度的原因,并且就如何提高SIC精度进行探讨．     

关于H-增生算子的变分包含解的具误差的近似点算法

q-一致光滑Banach空间中研究了一类关于H-增生算子的广义变分包含,利用新预解算子技巧,对这类变分包含建立了一个新的解的带误差的近似点算法,并证明了由此迭代算法生成的迭代序列强收敛于这类变分包含的解。其所得结果是近期相关结果的改进和推广。     

统计学习在假设稳定下推广误差的界

统计学习理论已经是近来的热点研究问题,而算子的推广性能是统计学习的一个十分重要的部分。本文指出算子的推广误差界可以归结为期望误差估计子的偏置和方差的问题,在这些假设稳定概念下,得到了估计算子的偏置和方差,并证明了＂几乎处处＂稳定算子的广义有界差分不等式,在一致稳定假设下得到推广误差的指数界。     

一种局部概率引导的优化K-means++算法

针对K-means++算法选取初始聚类中心计算误差平方和时, 实验次数对误差平方影响不准确的问题， 提出一种PK-means++算法. 结果表明, 该算法在进行分散数据聚类时, 在同一K值情形下, 聚类后的误差平方和较原K-means++算法更稳定, 从而更好地保证了随机实验取值的稳定性.     

关于一类集值变分包含解的迭代算法

2002年张石生先生介绍了一类集值变分包含,并在Banach空间内给出了这类集值变分包含解的存在定理和解的迭代算法.在凸度量空间构造一个新的凸结构,对这类集值变分包含定义了带误差的Ishikawa迭代程序,从而得出了这类集值变分包含解的新迭代算法,推广和统一了近期许多人的已知结果.     

一种局部概率引导的优化K-means++算法

针对K-means++算法选取初始聚类中心计算误差平方和时, 实验次数对误差平方影响不准确的问题， 提出一种PK-means++算法. 结果表明, 该算法在进行分散数据聚类时, 在同一K值情形下, 聚类后的误差平方和较原K-means++算法更稳定, 从而更好地保证了随机实验取值的稳定性.     

一种变步长符号梯度脉冲噪声对消算法

针对最小均方误差(least mean square,LMS)自适应噪声对消器在脉冲噪声干扰条件下实现噪声对消失效的问题,提出了一种变步长符号梯度最小均方误差(variable step size sign LMS,VSSLMS)脉冲噪声对消算法?VSSLMS算法利用符号函数对误差信号?参考噪声信号取符号运算构成符号梯度? 符号算子的量化操作可以抑制脉冲噪声对自适应算法的影响,为进一步提高VSSLMS脉冲噪声对消性能,采用误差功率归一化准则设计步长控制函数,给出了一种变步长算法,该算法能减小由于符号算子引入的量化误差对收敛速度和收敛精度的影响?利用计算机仿真把提出的VSSLMS脉冲噪声对消算法与改进的归一化LMP算法(MNLMP)进行了比较,结果表明,VSSLMS算法具有更快的收敛速度,同时具有与MNLMP算法相近的稳态剩余误差?因此,VSSLMS算法在脉冲噪声对消中具有实际应用价值?     

应用子空间信息准则选择模型参数

指出子空间信息准则是模型选择的一种新准则,它在一些假设条件下,给出推广误差的一种无偏估计.研究再生核Hilbert空间中,应用子空间信息准则于模型参数选择问题,证明子空间信息准则是推广误差的一种无偏估计,同时说明学习算法有较好的推广能力.     

基于支持向量机的混沌时间序列预测

支持向量机（SVM）是一种基于结构风险最小化原理的学习技术,是一种具有很好泛化性能的回归方法.针对混沌时间序列特点,提出混沌时间序列预测的支持向量机建模的思路、特点及关键参数的选取.对模型进行了实例研究,结果表明该模型能较好地处理混沌时间序列,具有较高的泛化能力和很好的预测精度.     

一种新的支持向量机混合集成算法

针对基于Boosting和Bagging的集成算法不能有效提高"强学习器"泛化性能的问题,融合Boosting的样本扰动和快速核独立分量分析的特征扰动以生成若干个体支持向量分类器,使生成的训练样本集具有较大的差异性。然后基于模糊核聚类算法根据各个体支持向量机在验证集上的泛化误差选择最优个体进行集成。实验结果表明该算法能进一步提高支持向量机分类器的泛化性能,而且具有较强的稳定性。     

一种鲁棒回归支持向量机及其学习算法

为了提高支持向量机的泛化能力,给出了一个鲁棒损失函数,利用它建立了鲁棒支持向量机,并利用对偶原理推导出其对偶优化问题的形式,在此基础上设计了局部梯度算法,在这种算法中每次迭代只改变两个优化变量的值。随后分析了算法的收敛性条件,给出了学习步长的选择依据,最后用一个仿真实例来说明所提出的支持向量机的学习性能,比标准支持向量机具有更好的鲁棒性。     

基于主成份分析的Bagging集成学习方法

机器学习中数据集的冗余特征会影响学习器的泛化能力，一些流行方法如支持向量机和集成学习也难免于此．研究了利用主成份分析进行特征变换对Bagging集成学习算法的影响，提出一种称为PCA—Bagging的算法，并与其它算法比如单个支持向量机、支持向量机Bagging集成、带有特征变换的单个支持向量机等进行了性能比较．在多个UCI标准数据集上的实验表明PCA—Bagging算法具有更好的性能，这说明即使是泛化能力很强的集成学习方法其学习的数据也需要进行适当的特征变换。     

基于改进的卷积神经网络图像识别方法

当前的图像特征识别大多采用的是传统的机器学习方法与卷积神经网络方法。传统的机器学习对图像识别的研究,特征提取多是通过人工完成,泛化能力不够强。最早的卷积神经网络也存在诸多缺陷,如硬件要求高,需要的训练样本量大,训练时间长。针对以上问题,提出了一种改进的神经网络模型,在LeNet-5模型的基础上并在保证识别率的情况下,简化网络结构,提高训练速度。将改进的网络结构在MINIST字符库上进行识别实验,分析网络结构在不同参量中的识别能力,并与传统算法进行对比分析。结果表明提出的改进结构在当前识别正确率上,明显高于传统的识别算法,为当前的图像识别提供新的参考。     

一种基于粒子群优化和核极限学习机的入侵检测算法

针对网络入侵检测准确率低、误报率高的问题,本文提出了一种基于粒子群优化和极限学习机的入侵检测算法。粒子群优化算法(PSO)是一种群智能算法,核极限学习机(KELM)是一种学习速度快、泛化能力强的经典核机器学习的方法,但是极限学习机对核函数及参数的选择直接影响它的分类性能。本文算法中利用粒子群算法优化核极限学习机的核参数,采用学习能力强且线性组合泛化能力强的全局性核函数,形成了多核极限学习机,可以有效提高单核极限学习机（ELM）分类器的性能。最后通过实验对算法性能做了对比分析,实验结果验证了本文算法的有效性。     

电液伺服阀状态在线特征提取和异常检测方法

基于电液伺服阀的动态工作特性,提出一种新的特征提取方法.将一类支持向量机用于电液伺服阀的在线异常检测,通过交叉有效性估计学习方法优化一类向量机参数,并与神经网络的诊断结果进行对比.实验结果表明,所提出的特征提取方法能够有效地提取电液伺服阀的动态特征信息,同时利用一类支持向量机优良的泛化能力能够有效地对电液伺服阀的异常状态进行识别.     

支持向量机及其在函数逼近中的应用

支持向量机是一种新的机器学习算法，它的理论基础是Vapnik创建的统计学习理论，它采用结构风险最小化准则，在最小化样本点误差的同时，缩小模型预测误差的上界，从而提高了模型的泛化能力，本文通过SVM在函数逼近中的应用，研究了SVM的小样本学习，泛化能力和抗噪声扰动能力。