|
|||||
|
|
| 基于权值e指数信息熵的前馈网络修剪算法 | |
| 引用本文： | 张昭昭,沈学利,乔俊飞. 基于权值e指数信息熵的前馈网络修剪算法[J]. 辽宁工程技术大学学报(自然科学版), 2009, 28(3) |
| 作者姓名： | 张昭昭 沈学利 乔俊飞 |
| 作者单位： | 1. 北京工业大学,智能系统研究所,北京,100022;辽宁工程技术大学,电子与信息工程学院,辽宁,葫芦岛,125105 2. 辽宁工程技术大学,电子与信息工程学院,辽宁,葫芦岛,125105 3. 北京工业大学,智能系统研究所,北京,100022 |
| 基金项目： | 国家自然科学基金资助项目 |
| 摘 要： | 针对神经网络结构设计的难点,定义神经网络连接权值的e指数信息熵,该熵克服了Shannon熵固有的缺点,但与Shannon熵对不确定性的描述具有相同的效果.将其作为惩罚项引入神经网络学习的目标函数中训练神经网络,由于熵函数特有的属性,对神经网络中小的连接进行惩罚而对大的连接进行鼓励,从而使神经网络中小的权值迅速收敛到零值附近.通过删除零值附近的权连接进而达到简化神经网络结构的目的.典型非线性函数逼近的仿真试验结果表明,该修剪算法在保证其逼近性能的同时,可以简化神经网络结构. |
| 关 键 词： | 前馈网络 e指数信息熵 修剪算法 |
Pruning algorithm for feed-forward neural networks based on e-exponential information entropy |
|
| ZHANG Zhaozhao,SHEN Xueli,QIAO dunfei. Pruning algorithm for feed-forward neural networks based on e-exponential information entropy[J]. Journal of Liaoning Technical University (Natural Science Edition), 2009, 28(3) | |
| Authors: | ZHANG Zhaozhao SHEN Xueli QIAO dunfei |
| Affiliation: | 1. Intelligent Systems Research Institute;Beijing University of Technology;Beijing 100022;China;2. Institute of Electronic and Information Engineering;Liaoning Technical University;Huludao 125105;China |
| Abstract: | |
| Keywords: | feed-forward network e-exponential information entropy pruning algorithm |
| 本文献已被 CNKI 万方数据 等数据库收录！ | |