| 信息理论框架下的神经网络构建 |
| |
| 引用本文： | 李爱军,罗四维,刘蕴辉,黄华.信息理论框架下的神经网络构建[J].北京交通大学学报(自然科学版),2005,29(2):1-6. |
| |
| 作者姓名： | 李爱军 罗四维 刘蕴辉 黄华 |
| |
| 作者单位： | 北京交通大学,计算机与信息技术学院,北京,100044;北京交通大学,计算机与信息技术学院,北京,100044;北京交通大学,计算机与信息技术学院,北京,100044;北京交通大学,计算机与信息技术学院,北京,100044 |
| |
| 基金项目： | 国家自然科学基金;高等学校博士学科点专项科研项目 |
| |
| 摘 要： | 神经网络模型的构建方法是神经网络研究的重点和难点,传统的构建方法建立在实验和重复学习的基础上,本文提出了一种信息理论框架下的神经网络构建方法基于熵的神经网络(EBNN).EBNN借助于前馈网络与决策树的等价性,采用熵做为神经网络构造的准则,利用决策树的构造思想和方法,建立了一种系统的神经网络构造方法.实验表明EBNN方法学习速度比传统BP网络快,但又不降低神经网络性能.
|
| 关 键 词： | 决策树 信息理论 基于熵的神经网络 |
| 文章编号： | 1673-0291(2005)02-0001-06 |
| 修稿时间： | 2004年7月2日 |
Setting Up Neural Network Based on Framework of Information Theory |
| |
| LI Ai-jun,LUO Si-wei,LIU Yun-hui,HUANG hua.Setting Up Neural Network Based on Framework of Information Theory[J].JOURNAL OF BEIJING JIAOTONG UNIVERSITY,2005,29(2):1-6. |
| |
| Authors: | LI Ai-jun LUO Si-wei LIU Yun-hui HUANG hua |
| |
| Abstract: | Setting up method of the neural network model is an important and difficult problem in the research of neural network. The traditional methods were established mainly by trial and error. This paper presents a new method named Entropy-Based Neural Nework, in the framework of information theory. Entropy-Based Neural Nework, is a systematic setting up method of neural network by adopting entropy as the setting up criterion and utilizing the idea and techniques of decision tree under the principle of equivalence between decision tree and neural network. Experiments indicate that Entropy-Based Neural Nework has a better learning speed than the traditional BP without losing the capability of the network. |
| |
| Keywords: | decision tree information theory entropy-based neural nework(EBNN) |
| 本文献已被 CNKI 维普 万方数据 等数据库收录！ |
|
