基于压缩感知的多核稀疏最小二乘支持向量机

为了提高稀疏最小二乘支持向量机对高维、异构数据的泛化性能,提出新型的基于压缩感知的稀疏多核最小二乘支持向量机算法。首先根据压缩感知理论,用正交匹配追踪算法对最小二乘支持向量机的支持向量进行稀疏化,再利用线性多核扩展法求出新的核函数矩阵。将新的核矩阵应用到最小二乘支持向量机,得到稀疏多核最小二乘支持向量机的解,用稀疏的支持向量实现函数回归。理论分析与数据实验对比结果表明该模型对于高维、异构数据能够更快更准确地进行训练,大大提高了模型的泛化能力和运算速度。     

不平衡最小二乘支持向量机

针对标准的最小二乘支持向量机(LSSVM)没有考虑样本分布不平衡的问题提出一种称为不平衡最小二乘支持向量机的算法.首先用标准的最小二乘支持向量机对原始数据进行初步训练,产生一个分离超平面的法向量.然后把高雏样本投影到该法向量上得到一维数据.最后由该一维数据的标准差以及样本数量差异所提供的信息,给出两类数据惩罚因子比例,再用标准的最小二乘支持向量机进行第二次训练,对分离超平面进行调整.该方法克服传统方法只考虑数量的不平衡的不足,将原有样本集中具有的分类信息充分提取出来,提高了最小二乘支持向量机的泛化能力.实验结果表明,所提方法可以有效提高不平衡数据的分类性能.     

Modified L-P小波最小二乘支持向量机及在动态系统辩识中的应用

为了提高动态系统的辩识品质,提出了-种新的可调带宽多维支持向量小波核函数-modifiedL-P小波核函数.理论E证明了这种核函数是满足平移不变核定理的支持向量核函数.由于该核函数具有平移伸缩正交性,而且适用于信号的局部分析、信噪分离和突变信号的检测,从而提升了支持向量机的泛化性能.应用Modified L-P小波核作为最小二乘支持向量机的核函数,可以简化计算复杂性,提高学习效率.回归实验和动态系统辩识的仿真结果表明,Modified L-P小波核函数最小二乘支持向量机的建模和逼近能力优于基于L-P小波核函数或高斯核函数最小二乘支持向量机,更适合工程应用.     

基于GA和Bootstrap的最小二乘支持向量机参数优选

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便.针对最小二乘支持向量机的特点,通过Bootstrap建立适当的性能指标,用遗传算法(GA)优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测的结果与神经网络预测的结果比较证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

基于核主元分析和最小二乘支持向量机的软测量建模

软测量技术是工业过程控制和分析的有力工具，它的核心问题是如何建立学习速度快且泛化性能优良的软测量模型。提出了一种基于棱主元分析（KPCA）和最小二乘支持向量机（LSSVM）的软测量建模方法，利用核主元分析提取软测量输入数据空间中的非线性主元，然后用最小二乘支持向量机进行建模，不但降低模型复杂性，而且提高了模型泛化能力。最后将上述方法用于PTA结晶过程的软测量建模，仿真结果表明：与SVM、PCA-SVM建模方法相比，该KPCA-LSSVM方法具有学习速度快、跟踪性能好、泛化能力强等优点，是一种有效的软测量建模方法。     

最小二乘支持向量机的参数优选方法及应用

支持向量机是一种新型的学习方法,该方法以结构风险最小化原则取代传统机器学习中的经验风险最小化原则,在小样本的机器学习中显示出了优异的性能.传统的支持向量机是解凸二次规划问题,而最小二乘支持向量机是解等式线性方程,显得尤为方便,通过建立适当的性能指标,用遗传算法优化最小二乘支持向量机的有关参数,并在非线性经济系统中应用.用最小二乘支持向量机对非线性经济系统进行预测并与其它方法的预测结果比较,结果证明,该模型的预测精确度是令人满意的,文中提出的方法是可行的.     

基于GA优化小波LS-SVR的惯性器件故障预报

为了提高最小二乘支持向量回归机的性能,将Morlet小波核函数引入其中,形成了最小二乘小波支持向量回归机模型。利用待优化的参数重构模型的目标函数和约束条件,并在此基础上通过遗传算法进行参数选择,从而提高了该模型的泛化能力。将最小二乘小波支持向量回归机应用于导弹陀螺仪的漂移趋势预测,仿真实验结果表明了该方法的有效性和可行性,因此可以为陀螺仪的故障预报、可靠性辅助决策提供依据。     

基于PCA和最小二乘支持向量机的软测量建模

软测量技术是解决工业过程中普遍存在的一类难以在线测量变量估计问题的有效方法,支持向量机是基于统计学习理论的一种新的机器学习方法。提出了一种基于主元分析(PCA)和最小二乘支持向量机的软测量建模方法,用主元分析对输入变量进行数据压缩,消除变量之间的相关性,简化支持向量机结构,并通过交叉验证的方法对支持向量机进行参数选择。将其用于4-CBA软测量建模的结果表明:该方法具有学习速度快、跟踪性能好以及泛化能力强等优点,为4-CBA软测量建模的在线实施提供了方便。     

用于回归估计的最小二乘广义支持向量机

提出了一种用于回归估计的最小二乘广义支持向量机.这种最小二乘广义支持向量机的核函数同标准的支持向量机相比没有或者只有很少的限制.将这种用于回归估计的最小二乘广义支持向量机表示成标准的二次规划(QP)问题,采用基于矩阵分裂的超松弛法同投影梯度法相结合的算法来解这一QP问题.根据超松弛法的特点,这一算法可以处理大量数据的情形.     

基于v-支持向量回归机的盲均衡算法

盲均衡可以看作模式分类问题,每一类由信源字符表的可能输出定义.由于支持向量回归机具有优良的泛化性能,提出了一种基于v-支持向量回归机的盲均衡算法,并且利用加权最小二乘方法求解v-支持向量回归机.计算机仿真结果表明提出的盲均衡算法具有计算复杂度低、适于实际应用的特点.     

一种自适应强化学习算法在状态空间构建中的应用

针对模型未知以及具有连续状态的系统控制问题,提出一种基于强化学习的自适应控制策略。在Actor-Critic框架下,建立归一化径向基网络的自适应调节机制,实现未知系统状态空间的动态创建。有效克服了状态空间分割所带来的维度灾难,而且能够使得系统的结构总保持在最佳状态。通过对倒立摆控制的仿真研究验证了方法的有效性。     

基于深度强化学习的网络路由优化方法

针对同一网络拓扑下不同网络负载的路由优化问题, 在深度强化学习方法的基础上, 提出了两种依据当前网络流量状态进行路由分配的优化方法。通过网络仿真系统与深度强化学习模型的迭代交互, 实现了对于流量关系分布的网络路由持续训练与优化。在利用深度确定性策略梯度(deep deterministec policy gradient, DDPG)算法解决路由优化问题上进行了提升和改进, 使得该优化方法更适合解决网络路由优化的问题。同时, 设计了一种全新的链路权重构造策略, 利用网络流量构造出用于神经网络输入状态元素, 通过对原始数据的预处理加强了神经网络的学习效率, 大大提升了训练模型的稳定性。并针对高纬度大规模网络的连续动作空间进行了动作空间离散化处理, 有效降低了其动作空间的复杂度, 加快了模型收敛速度。实验结果表明, 所提优化方法可以适应不断变化的流量和链路状态, 增强模型训练的稳定性并提升网络性能。     

基于多个并行CMAC神经网络的强化学习方法

为解决标准Q学习算法收敛速度慢的问题,提出一种基于多个并行小脑模型(Cerebellar Model Articulation Controller:CMAC)神经网络的强化学习方法。该方法通过对输入状态变量进行分割,在不改变状态分辨率的前提下,降低每个状态变量的量化级数,有效减少CMAC的存储空间,将之与Q学习方法相结合,其输出用于逼近状态变量的Q值,从而提高了Q学习方法的学习速度和控制精度,并实现了连续状态的泛化。将该方法用于直线倒立摆的平衡控制中,仿真结果表明了其正确性和有效性。     

改进Q学习算法在作业车间调度问题中的应用

为解决动态环境下作业车间调度问题,提出了一种基于改进Q学习算法和调度规则的动态调度算法。以“剩余任务紧迫程度”的概念来描述动态调度算法的状态空间;设计了以“松弛越高,惩罚越高”为宗旨的回报函数;通过引入以Softmax函数为主体的动作选择策略来改进传统的Q学习算法,使改进后的Q学习算法在前期选择不同动作的概率更加平等,同时改善了贪婪策略在学习后期还会选择次优动作的现象。仿真结果表明：该调度算法相较于改进前,性能指标平均提升约6.5%;相较于IPSO算法和PSO算法,性能指标平均提升分别约为38.3%和38.9%,调度结果明显优于使用单一调度规则以及传统优化算法等常规方法。     

基于深度随机博弈的近距空战机动决策

针对空战中作战信息复杂、难以快速准确地感知态势做出决策的问题,提出一种博弈论与深度强化学习相结合的算法。首先,依据一对一典型空战流程,以随机博弈为标准,构建近距空战中红蓝双方对抗条件下的双机多状态博弈模型。其次,利用深度Q网络(deep Q network, DQN)处理战机的连续无限状态空间。然后,使用Minimax算法构建线性规划来求解每个特定状态下阶段博弈的最优值函数,并训练网络逼近值函数。最后,训练完成后根据网络输出求得最优机动策略。空战仿真实验表明,该算法具有较好的适应性和智能性,能够有效地针对空战对手的行动策略实时选择有利的机动动作并占据优势地位。     

基于二维混合模型的鲁棒迭代学习控制设计

针对一类正则线性不确定系统,提出一种基于连续/离散二维混合模型的迭代学习控制设计方法。首先,通过独立地考虑迭代学习控制系统连续的控制行为与离散的学习行为,建立迭代学习控制系统的连续/离散二维混合模型,将迭代学习控制器设计问题转化为一类连续/离散二维系统的状态反馈控制问题。然后应用二维连续/离散系统方法,获得迭代学习控制系统稳定性条件。最后根据稳定性条件,利用线性矩阵不等式方法,求得迭代学习控制器参数,它通过Matlab工具箱可以方便的获得。与现有方法相比,所提出的迭代学习控制器利用了输出误差以及状态变化的信息来修正当前的控制,因而设计方法更加符合其本质特征,具有简单实用、直观明了的特点。数值仿真实例验证了所提方法的有效性。     

基于预聚类主动半监督的作战体系效能评估

针对作战仿真实验中体系效能通常依靠专家评估、评估代价较大的问题,提出一种基于预聚类主动半监督学习的作战体系效能评估方法。明确了使用该方法进行作战体系效能评估的基本流程,以及自顶向下的评估模式和二值化的评估标准。重点构建了预聚类主动半监督学习算法,首先,结合作战仿真实验数据的特点,对未评估样本进行预聚类,选择最有价值的样本供专家标注;然后,使用已标注的样本训练主动学习算法和半监督学习算法的公用学习器;最后,利用主动学习算法挑选价值较高的样本交由专家评估,并利用新样本对学习器进行不断更新。作战仿真实验数据表明,该方法在达到预期评估准确度的同时降低了评估代价,能有效应用于大规模作战仿真实验的体系效能评估。     

基于Metropolis准则的多步Q学习算法与性能仿真

强化学习是目前智能体和机器学习研究的热点。针对强化学习中标准Q学习算法更新速度慢的缺点,通过引入多步信息更新策略和模拟退火中的Metropolis准则,提出了一种新颖的多步Q学习算法,称为SAMQ算法。仿真实验表明,与现有的算法相比,该算法能够有效提高收敛速度,较好地解决智能体选择动作时面临的新知识探索还是当前策略遵循的关键问题。     

基于过程神经网络的稀疏数据过程建模方法

针对一类因检测困难而导致检测数据稀少的连续工业过程,提出了基于离散Walsh变换的过程神经网络建模方法.在对稀疏样本数据进行预处理的基础上,采用递推式非邻均值生成法对样本数据进行扩充,以此建立可产生任意密集预测数据的过程神经网络模型,并采用在线滚动学习的方法进一步提高所建立的预测模型的精度.以味精发酵过程菌体浓度预测为例,验证了所建立的过程神经元网络预测模型可以得到非常高的预测精度.