基于神经网络算法的机器学习模型研究

翟龙飞　陈迎春　杨冲　闫心宝

摘 要：人工神经网络是一种新型的信息处理技术，具有先进的建模技术，但网络自身存在的不足影响了其进一步的发展和应用。本文详细研究了标准BP神经网络，并提出了网络性能的改进着眼点。

关键词：BP神经网络 网络模型 网络训练

中图分类号： TP183 文献标识码：A 文章编号：1003-9082（2016）03-0004-01

人工神经网络是一个由简单数据处理单元相互连接组成的庞大信息处理计算模型，该网络通过历史知识的不断输入和人工网络对于运算的自适应调整来实现有用运算。

一、神经网络

神经网络具有自主学习性质，对于特定运算具有高效运算能力。因此，人们以信息在神经系统处理过程为启发，利用计算机系统构建了类似的分级计算层次结构，即人工神经网络。

神经网络构造可分为神经元模型、网络模型构造两部分。

1.神经元模型

神经元（神经细胞）是神经网络的基本信息处理单元，它是神经网络的设计基础

2.网络结构模型

网络结构模型由逐个神经元连接构成，其能对信息的多神经元融合处理传输，因此使得信息处理具有一定的鲁棒性。从网络结构连接方式上，可将人工神经网络分为前馈型网络和反馈型网络。

二、网络模型构建

1.BP网络的结构分析

将BP神经元组合就构成了多层BP神经网络，图3给出了一个单隐层的三层神经网络模型。

2.BP网络的算法分析

2.1神经网络的性能函数

神经网络的网络性能是以均方误差MSE作为评价标准，同时兼顾网络训练时间。以下为网络输出误差数学表达：

（6）

2.2神经网络中神经元权值与输出误差关系

由（8）可以看出，网络输出误差E是各层权值 、 的函数，因此通过调整权值来得到较小E的值，从而实现数据拟合精度提高。

三、影响BP网络性能的关键因素

1.网络训练的拟合性能分析

众多研究表明，网络的泛化能力主要与隐层数以及各隐层神经元个数，样本大小和训练次数有关。本文研究针对短波数据进行的拟合预测分析，训练目标是最好的接近实际数据。因此，本文以训练得到最低均方误差为目的。

2.数据集的选定

训练样本集的选取以及处理对于神经网络的拟合结果有着重要的影响。在选取输入样本变量时，变量应具有以下特点：

①样本数据大，即拥有较大的置信空间；

②输入变量之间相关性要低。

需要对选定的样本进行预处理，以便进一步优化网络性能[2]。

3.网络初始化

网络初始化包括对于权值和阈值的初始化，其初始值决定着网络训练过程中在误差曲面上的初始移动点，由于误差曲面的不均匀性质，一个好的网络初始值能够使得网络收敛速度更快，网络收敛目标更优，一般BP网络初始化是随机的，从而导致了网络差异化大，网络容易陷入局部最优不能达到最终收敛的目的，同时也造成网络训练的不稳定。因此在实际应用中，可以多次训练选择最终误差性能最小的网络初始值，保证了网络的训练结果。

4.网络的训练速度

影响网络训练速度的主要因素在网络结构、网络训练算法以及网络参数。

为了保证较短的训练时间，选取隐含层和隐层节点数尽量少，但若设计网络是结构过于简单会造成网络学习样本的能力不足。然而过大的话，则导致网络学习的时间加长，学习出现过适配现象[3]。目前可以采取试凑和对比的方法确定适合于该模型的网络结构。

网络训练算法体现了训练点在误差曲面的移动路线和方式上，是网络拟合性能的关键因素。

5.网络性能的检验

在标准BP神经网络中，当输出误差稳定到网络误差性能函数以下时，认为是网络训练成功。通过对和训练数据同一来源的检验样本进行仿真预测，用预测值与期望值求得误差性能函数MSE来反映性能分析。对于一个网络的评价指标主要在网络的训练速度和网络的拟合精度上。

参考文献

[1] Simon Haykin著. 神经网络原理[M]. 叶世伟等译.第二版.北京：机械工业出版社，2004.1： 1～8.

[2] 施颜，韩立群，廉小亲编著.神经网络设计方法与实例分析[M] 北京：北京邮电大学出版社， 2009，12：23～36.