| 优化极限学习机的序列最小优化方法 |
| |
| 引用本文： | 丁晓剑,赵银亮.优化极限学习机的序列最小优化方法[J].西安交通大学学报,2011,45(6):7-12,19. |
| |
| 作者姓名： | 丁晓剑 赵银亮 |
| |
| 作者单位： | 西安交通大学电子与信息工程学院,710049,西安 |
| |
| 基金项目： | 国家高技术研究发展计划资助项目 |
| |
| 摘 要： | 针对传统二次规划求解方法训练优化极限学习机(OMELM)存在速度慢和效率低的问题,提出了单变量迭代序列最小优化(SSMO)算法.该算法通过在框式约束中优化拉格朗日乘子来实现目标函数的最小化:首先在初始化拉格朗日乘子中选择使目标函数值下降最大的拉格朗日乘子,将该拉格朗日乘子作为目标函数的唯一变量;然后求解目标函数的最小值并更新该变量的值;重复这个过程直到所有的拉格朗日乘子都满足二次规划问题的Karush-Kuhn-Tucker条件为止.实验结果表明:SSMO算法只需调节很少的参数值便可得到足够好的泛化性能;采用SSMO算法的OMELM方法在泛化性能上要好于采用序列最小优化算法的支持向量机方法;在随机数据集测试中,SSMO算法具有较好的鲁棒性.
|
| 关 键 词： | 极限学习机 支持向量机 序列最小优化 |
A Sequential Minimal Optimization Method for Optimization Extreme Learning Machine |
| |
| DING Xiaojian,ZHAO Yinliang.A Sequential Minimal Optimization Method for Optimization Extreme Learning Machine[J].Journal of Xi'an Jiaotong University,2011,45(6):7-12,19. |
| |
| Authors: | DING Xiaojian ZHAO Yinliang |
| |
| Institution: | (School of Electronics and Information Engineering,Xi′an Jiaotong University,Xi′an 710049,China) |
| |
| Abstract: | A sequential minimal optimization(SSMO) algorithm iterated with single variable is proposed to solve the slow speed and low efficiency problems in training optimization method based extreme learning machine(OMELM) by traditional quadratic programming solver.The algorithm searches the minimum value of the objective function by optimizing Lagrange multipliers within box constraints.The Lagrange multiplier that can generate maximum reduction in the objective function is selected from the initial Lagrange multi... |
| |
| Keywords: | extreme learning machine support vector machine sequential minimal optimization |
| 本文献已被 CNKI 万方数据 等数据库收录！ |
