发散步长准则下的增量聚合梯度算法 |
| |
引用本文: | 钱晓慧,王湘美.发散步长准则下的增量聚合梯度算法[J].重庆工商大学学报(自然科学版),2020,37(2):6-11. |
| |
作者姓名: | 钱晓慧 王湘美 |
| |
作者单位: | 贵州大学 数学与统计学院,贵阳 550025 |
| |
摘 要: | 针对目标函数是若干光滑函数之和的优化问题,提出采用发散步长准则的增量聚合梯度算法。与增量梯度算法一样,增量聚合梯度算法的每次迭代也只需要计算其中一个函数的梯度。目前关于增量聚合梯度算法的研究主要是采用常值步长的增量聚合梯度算法,这一算法要求目标函数二阶连续可微且强凸,且常值步长的选取依赖最优点的二阶导数;而发散步长准则不依赖目标函数。在目标函数的梯度有界且李普希兹连续假设条件下,证明了采用发散步长的增量聚合梯度算法的收敛性;最后,通过数值例子验证了算法的收敛性,并与采用相同步长准则的增量梯度算法进行比较;数值结果表明对于某些优化问题,增量聚合梯度算法比采用相同步长的增量梯度算法更有效。
|
关 键 词: | 光滑优化 增量梯度算法 增量聚合梯度算法 发散步长 |
本文献已被 CNKI 等数据库收录! |
| 点击此处可从《重庆工商大学学报(自然科学版)》浏览原始摘要信息 |
| 点击此处可从《重庆工商大学学报(自然科学版)》下载免费的PDF全文 |
|