基于Borges差分的RMSprop算法及在卷积神经网络参数训练中的应用 |
| |
作者姓名: | 高哲 剪静 |
| |
作者单位: | 辽宁大学轻型产业学院,辽宁沈阳110036;辽宁大学数学与统计学院,辽宁沈阳110036;辽宁大学数学与统计学院,辽宁沈阳110036 |
| |
基金项目: | 辽宁省教育厅基础研究项目(LJC202010);;辽宁省自然科学基金项目(20180520009);;兴辽英才计划项目(XLYC1807229); |
| |
摘 要: | 针对RMSprop算法存在梯度消失和局部最优的问题,本文提出了一种基于Borges差分的RMSprop算法并应用到卷积神经网络参数训练方法.根据Borges分形导数的定义,本文给出了Borges差分的定义;将Borges差分与RMSprop算法相结合,提出了基于Borges差分的RMSprop优化算法,提高了图像识别的精度和学习收敛速度;给出了一种基于梯度信息的自适应的调整阶次的方法.本文以Fashion-MNIST数据集为例,分析了阶次对网络参数训练结果的影响,验证了本文提出的算法提高卷积神经网络的识别精度和学习收敛速度的有效性.
|
关 键 词: | 卷积神经网络 RMSprop算法 Borges差分 分形导数 反向传播 |
本文献已被 万方数据 等数据库收录! |
|