基于ramp损失函数的原空间支持向量机

针对传统支持向量机对噪声敏感的问题,给出一种基于不对称形式的二次不敏感控制型ramp损失函数的支持向量回归机,采用凹凸过程优化和光滑技术算法,将非凸优化问题转化为连续且二次可微的凸优化问题,利用有限步终止的Amijo-Newton优化算法,求解所建立的优化模型,并分析了算法的收敛性.该算法不仅可以保持支持向量的稀疏性,而且还可以控制训练样本中的异常值.实验结果表明,该模型保持了很好的泛化能力,无论对模拟数据还是标准数据都具有一定的拟合精度,与标准支持向量机模型相比,不仅能够降低噪声和孤立点的影响,而且也具有较强的鲁棒性.     

分类大规模数据的核向量机方法研究

标准的支持向量机算法需要求解二次规划问题,因此,在处理大规模样本的时候,求解二次规划问题的时间复杂度和空间复杂度就成为支持向量机应用的一个瓶颈.核向量机将传统支持向量机中的二次规划问题转化为求解最小包围球问题,从而显著降低了二次规划的复杂程度.使用核向量机对大规模数据进行分类,所选用的数据样本数均超过2000,并与标准的支持向量机作了对比实验结果表明:核向量机在处理大规模数据分类时,比标准的支持向量机计算复杂度低,训练速度快,耗费空间少.     

并行支持向量机算法及其应用

针对当前支持向量机计算效率的不足,提出了改进的并行支持向量机技术.该算法能有效使内积运算、向量数据更新、矩阵向量实现并行计算,并且数据之间的通信时间能和向量更新时间重叠,从而提高了计算效率,并能保证泛化能力.数据仿真结果表明,与改进前的算法相比,2 500个样本下能节省时间30%左右,样本量增大时,效果更为明显.     

基于预测-校正原对偶内点法的多分类支持向量机学习算法

支持向量机基于统计学习理论,是一种新型通用的有监督的机器学习方法,其核心思想是使结构风险极小化,但是由于需要求解二次规划,使得它在求解大规模数据上具有一定的局限性,尤其是对于多分类问题,现有的支持向量机算法具有很高的复杂性.本文构造了基于线性规划的一对一三类结构支持向量分类器,可以直接利用比较成熟的线性规划算法——预测-校正原对偶内点法,并在此基础上提出了基于预测-校正原对偶内点法的支持向量机的多分类学习算法,这种算法可用于比较庞大的多类别识别问题,并且克服了标准支持向量机的一些缺点,而且模型简单,容易实现.针对UCI数据库上数据进行了实验,结果证实该算法具有较高的可行性和实用性.     

用于不平衡数据分类的模糊支持向量机算法

作为一种有效的机器学习技术,支持向量机已经被成功地应用于各个领域.然而当数据不平衡时,支持向量机会产生次优的分类模型;另一方面,支持向量机算法对数据集中的噪声点和野点非常敏感.为了克服以上不足,提出了一种新的用于不平衡数据分类的模糊支持向量机算法.该算法在设计样本的模糊隶属度函数时,不仅考虑训练样本到其类中心距离,而且考虑样本周围的紧密度.实验结果表明,所提模糊支持向量机算法可以有效地处理不平衡和噪声问题.     

基于扫描向量的属性约简方法

针对粗糙集理论中属性约简问题,提出了一种基于扫描向量的属性约简方法.根据粗糙集理论知识,定义了一个新概念--差别向量,利用差别向量将信息表转换成差别向量组;根据差别向量的结构特征,定义了差别向量加法法则;运用这个加法法则仅需对差别向量组扫描一次,就可以形成结构简洁却能代表原信息表属性特征的扫描向量.以扫描向量中的属性频率项作为属性约简搜索的启发信息,提高了属性约简效率.数值实例及数据库测试的结果表明该属性约简算法是有效可行的.     

迭代算法求解支持向量机中的分离超平面

支持向量机的关键在于获取分离超平面,一般是基于规划的学习算法,把求解问题转化成凸二次规划问题.采用感知机的迭代算法思路求解支持向量机的分离超平面,算法包括两个迭代过程,首先利用感知机的迭代算法获取一个分离超平面作为初始分离超平面;然后将初始分离超平面不断地旋转和平移,直至正类集和负类集的支持向量到分离超平面的距离相等,此时的分离超平面就是支持向量机的分离超平面.最后分别采用解凸二次规划方法和迭代算法对鸢花分类数据进行学习,获得的支持向量和分离超平面完全一致,说明该迭代算法简单有效.     

一种改进的最小二乘支持向量机算法

最小二乘支持向量机是标准支持向量机的一种扩展,它是支持向量机在二次损失函数下的一种形式.它用等式约束代替不等式约束,求解过程变为解一组等式方程,避免了求解耗时的二次规划问题,但同时也丧失了标准支持向量机的稀疏性,影响了二次学习的效率.针对上述问题,本文提出了一种改进的最小二乘支持向量机增量学习方法.改进的最小二乘支持向量机算法采用自适应剪枝方法对解进行稀疏,根据每次训练得到的分类器性能来设定剪枝阚值和样本增量的大小,如果得到的分类器性能好,剪枝阈值和样本增量就大,反之,剪枝阚值和样本增量就小,从而提高了最小二乘支持向量机训练效率,解决了稀疏性问题.最后,仿真实验表明该算法方案可行.     

一种解决群进化算法参数设置问题的最优向量法

群进化算法是智能计算领域研究的核心内容,而算法中数值型参数的设置是影响算法搜索效率的重要因素,因此设计解决参数设置问题的方法也是群进化算法研究的重要内容.目前解决参数设置问题的常规统计方法是根据算法搜索的部分结果组成有限样本数据,依据统计最好值个数大小的判定结果来确定最优参数预设值.常规统计方法在有些测试样本数据中很难确定唯一的最优参数预设值.为了解决常规统计方法的缺点,提出了一种最优向量法,该方法可以将任意形式有限样本数据转换为向量,依据向量计算的判定规则进行最优参数预设值的确定.实验结果表明,依据获取的有限样本数据通过最优向量法找到最优参数值,采用该参数值的群进化算法搜索效率相对最优,从而验证了最优向量法的有效性.     

基于不完全正交的VRP-IGMRES(m)算法

为提高大型线性方程组的求解效率,在VRP-GMRES(m)算法基础上,利用截断技术,即在构造Krylov子空间的基向量和Hessenberg矩阵时采用不完全正交的Arnoldi过程,提出截断型变参数广义极小残余算法(VRP-IGMRES(m)),并利用连续2次迭代残余向量的夹角余弦与模的关系给出算法的收敛性证明.最后通过数值算例分析了截断指标对计算精度和计算效率的影响,表明VRP-IGMRES(m)算法在保证计算精度的前提下,可以有效地提高计算效率,并得到了最优截断比的取值大约为0.1,为实际工程问题的求解提供了新的方法.     

利用动态规划求解资源分配问题

动态规划是解决多阶段决策过程最优化问题的一种数学方法,资源分配问题解决将一种或几种资源分配给若干用户或投资于几家企业,以获得最大的效益,它可以是多阶段决策过程,也可以是静态规划问题,都能构造动态规划模型求解。本文针对资源分配问题设计了动态规划求解算法,数值结果表明该算法是可行有效的。     

基于GAs求解整数规划问题的算法设计

对于遗传算法（ＧＡｓ）求解整数规划问题,提出一种新的位串编码结构,采用一种新的加速变异算子,可明显改善寻优的收敛速度,并为保持种群多样性引入分散型淘汰法。     

一类非凸规划的分支定界算法

针对一类非凸规划问题(NP)提出有效的分支定界算法.首先,利用目标函数的特性将其转化为等价的极小化问题(P),通过对其可行域的细分和求解一系列凸规划问题,不断更新(NP)全局最优值的上下界.为提高计算效率,一个问题的最优解作为下一个问题的初始解,并提出了新的删除技术.理论上证明该算法是收敛的,数值试验结果表明算法是有效可行的.     

改进遗传规划算法在系统辨识中的应用

为了解决工业过程中数据丰富但机理不完全可知的非线性动态系统建模问题,提出了一种改进的遗传规划算法,以辨识模型结构和参数.该算法首先基于多层次辨识和反馈的基本思想,对系统进行多次辨识,直到把辨识误差缩小到可接受的范围;然后,采用最小二乘法估测模型参数,避免优良模型结构因低劣参数而被淘汰;最后,实施M估计技术,削弱强噪声对建模的影响,增强模型泛化能力.针对满足Lotka-Volterra方程的非线性动态系统进行建模仿真,试验结果表明该算法能较好地辨识满足Lotka-Volterra方程的一类非线性动态系统.     

基于遗传算法的产品分配方案研究

建立了产品分配的时变模型 ,并将其分为两层子问题 .下层子问题为基本的运输问题 ,按一般的线性方程求解 ;上层子问题则求系统的最小成本 ,采用遗传算法进行求解 .同时 ,还进行了大量的计算机实验 ,并在实验过程中将遗传算法与实现产品分配时常用的算法进行了比较 .结果表明 :采用本研究所建模型 ,并利用遗传算法进行求解 ,可以取得相当好的效果 ,具有实现简单、收敛时间短等优点 .     

基于MapReduce的关联规则并行增量更新算法

针对在关联规则的实际挖掘中,由数据快速增加所造成的大数据问题和增量更新问题?在快速更新频繁模式树算法(fast updated frequent pattern tree,FUFP - tree)的基础上,引入MapReduce 编程模型,提出了一个面向大数据的并行的关联规则增量更新算法(parallel fast updated frequent pattern tree,PFUFP - tree)?该算法通过构建原始事务数据的分块索引,从而使得在每次增量更新时,能够最小化地扫描原始事务数据库,提高了挖掘效率;同时采用动态负载均衡的项目分组策略来优化并行计算过程中的项集分组问题,从而保证分布式集群中节点之间的负载均衡;实验结果证明,提出 的算法是有效的和高效的,适用于动态增长的大数据环境?     

基于进化规划的网络多目标路由算法

多目标路由问题要求极小化网络带宽资源消耗 ,它与图论中 NP完全的 Steiner问题等价 ,不存在多项式时间算法 ,只能采用近似算法或启发式算法 .进化算法是一类有效求解优化问题的新算法 .应用进化算法中的进化规划方法 ,求解 Steiner问题 ,提出了一种新的多目标路由算法 .仿真结果显示 ,该算法性能高于启发式方法     

基于Matlab的最小一乘回归的线性规划实现

对基于最小二乘准则的回归方法进行了分析,指出该方法容易受到野点信号的干扰.最小一乘准则虽然克服了最小二乘准则的不足,但如何在其基础上建立与实现回归算法一直是一个难题.论文中提出利用线性规划的方法建立该算法,并采用Matlab语言予以实现.     

基于ARM-Linux 台的显式模型预测控制算法实现

为了对显式模型预测控制算法进行实验研究,建立了基于ARM-Linux平台的显式模型预测控制实物仿真控制系统.在ARM-Linux平台上实现了显式模型预测控制算法的在线计算过程,把传统的隐式模型预测控制的反复在线优化计算问题转变为在线数据搜索过程,简化了在线计算过程,提高了在线计算速度,减少了在线计算时间.对显式模型预测...     

一种改进Wolef-BFGS-SQP法对随机规划的研究

基于拟蒙特卡洛随机模拟的Wolef—BFGS—SQP法对随机规划的再研究。对于求解LCI函数优化的BFGS—SQP算法,改用Wolef线性搜索原则,同样得到了该算法的全局收敛性,并把它推广到解决随机规划的问题上去。在随机模拟过程的处理上采用拟蒙特卡洛随机模拟技术,鉴于计算量比较大的问题,采用仅多加一个线性约束的信赖域技术计算,即可克服收敛慢等的缺点。