首页 | 本学科首页   官方微博 | 高级检索  
     检索      

基于权值e指数信息熵的前馈网络修剪算法
引用本文:张昭昭,沈学利,乔俊飞.基于权值e指数信息熵的前馈网络修剪算法[J].辽宁工程技术大学学报(自然科学版),2009,28(3).
作者姓名:张昭昭  沈学利  乔俊飞
作者单位:1. 北京工业大学,智能系统研究所,北京,100022;辽宁工程技术大学,电子与信息工程学院,辽宁,葫芦岛,125105
2. 辽宁工程技术大学,电子与信息工程学院,辽宁,葫芦岛,125105
3. 北京工业大学,智能系统研究所,北京,100022
基金项目:国家自然科学基金资助项目 
摘    要:针对神经网络结构设计的难点,定义神经网络连接权值的e指数信息熵,该熵克服了Shannon熵固有的缺点,但与Shannon熵对不确定性的描述具有相同的效果.将其作为惩罚项引入神经网络学习的目标函数中训练神经网络,由于熵函数特有的属性,对神经网络中小的连接进行惩罚而对大的连接进行鼓励,从而使神经网络中小的权值迅速收敛到零值附近.通过删除零值附近的权连接进而达到简化神经网络结构的目的.典型非线性函数逼近的仿真试验结果表明,该修剪算法在保证其逼近性能的同时,可以简化神经网络结构.

关 键 词:前馈网络  e指数信息熵  修剪算法

Pruning algorithm for feed-forward neural networks based on e-exponential information entropy
ZHANG Zhaozhao,SHEN Xueli,QIAO dunfei.Pruning algorithm for feed-forward neural networks based on e-exponential information entropy[J].Journal of Liaoning Technical University (Natural Science Edition),2009,28(3).
Authors:ZHANG Zhaozhao  SHEN Xueli  QIAO dunfei
Institution:1. Intelligent Systems Research Institute;Beijing University of Technology;Beijing 100022;China;2. Institute of Electronic and Information Engineering;Liaoning Technical University;Huludao 125105;China
Abstract:
Keywords:feed-forward network  e-exponential information entropy  pruning algorithm  
本文献已被 CNKI 万方数据 等数据库收录!
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号