BP神经网络隐含层节点数确定方法研究

王嵘冰，徐红艳，李 波，冯 勇

(辽宁大学 信息学院，辽宁 沈阳 110036)

0 引 言

人工神经网络具有自学习、自组织和优良的非线性逼近能力，因此众多领域的学者都在对其进行研究和应用。在实际应用中，其中一种人工神经网络—BP神经网络(back propagation neural networks，BPNN)最为人们熟知，并广泛应用于人工智能、图像处理、优化算法、数据挖掘等重要领域。

在对BPNN进行深入研究的过程中，学者们提出了一个非常重要的、不可忽略的问题，即BPNN隐含层节点数确定问题。由于对神经网络隐含层节点数的确定缺乏有效的方法，目前仅能凭经验和不断地实验来确定隐含层节点数。针对这个问题，文中提出了一种行之有效的算法，即“三分法”算法。该算法可以简单、快速地确定BPNN隐含层节点数。

1 相关研究

1.1 BPNN

1986年，Rumelhart等提出了误差反向传播法，即BP算法[1]。BPNN能够实现M-N维的映射关系，而无需事先知道映射关系的数学方程式。BPNN模型由三部分构成：输入层、隐含层以及输出层[2]，模型图如图1所示。

图1为三层前馈神经网络，不含Input层，整个网络含有两个隐含层Hidden1和Hidden2，一个输出层Output，各层之间是全连接的关系。

图1 三层BPNN

BPNN实现了M维到N维的一个非线性映射关系，它包括两个过程，一是前向传播过程，二是误差反向传播过程。

当一个模式从输入端输入网络之后，这个模式将在BPNN中流动，模式通过权值线路进入每一个隐含层神经元节点，利用激活函数，隐含层各个神经元对其进行加权求和处理，之后经过隐含层和输出层之间的权值线路进入输出层单元，处理后在输出层产生一个输出模式。……