【结构】BP神经网络-模型结构

好了，这节我们先来模清BP神经网络的模型结构，快来上车！

一、BP神经网络-单层结构

BP神经网络，它的原名叫"多层线性感知机"(Multilayer Perceptron，MLP)，只不过它训练时使用BP算法来计算梯度，所以又叫BP神经网络。从它的原名就可以知道，它就是"多层的线性感知机"，那么我们不妨先来看下单层的结构，再拓展到多层的结构。

1.1. BP神经网络-单层结构

单层的感知机其实就是一个线性函数加一个激活函数，它的结构如下：

如图所示，在单层模型中，输入与输出由权重两两连接，每个输出都有阈值与激活函数。

一般用代表第j个输出与第i个输入的权重，代表第j个输出的阈值，则对于第j个输出为：

看到公式不用怕，其实它只是代表第j个输出，就是所有输入加权求和后、再加上阈值，然后再套一个激活函数。

一般来说，我们会将整体输出写为矩阵形式，如下：

这里称为权重，称为阈值，而 称为激活函数

1.2. 单层结构-计算例子

下面我们用个例子来溜一溜，假设输入、权重、阈值分别如下：

激活函数取为tanh函数，如下：

则输出为：

好了，搞清楚了单层是怎么一回事，那BP神经网络就so easy了！

二、BP神经网络-模型结构

上面我们已经说了BP神经网络的单层结构(也称为单层感知机)，下面我们再来看看完整的BP神经网络结构。

BP神经网络呢，就是由一层一层的线性感知机组成的，以一个四层的BP神经网络为例，如下：

好了，对着图，我们来走一遍它的模型运算，从输入层X开始，那么第一个隐层的输出值就是：

接下来，我们把第一个隐层的输出，作为第二个隐层的输入，然后就得到第二个隐层的输出值，如下：

再接下来，我们把第二个隐层的输出，作为第三层的输入，然后继续得到第三层(输出层)的输出值，如下：

第三层就是最终模型的输出值了，可以看到，BP神经网络的计算，就是一层一层的前馈，也就是说，BP神经网络是一种前馈模型，所以往往也把它的计算过程称为"前馈过程"。

可以看到，BP神经网络呢，就是输入层->隐层->隐层->..->输出层这样的结构，其中，各个隐层的节点个数，需要根据具体问题具体设置，而隐层的激活函数则一般设为tanh函数，输出层使用恒等函数。

三、BP神经网络-生物意义

最后，我们来简单讲讲BP神经网络的生物背景意义，顾名思义，BP神经网络就是模仿人的神经网络而构造出来的一种数学模型，那下面简单的来理解一下BP神经网络的生物意义。先来上个图：

如图，在人的眼睛看到符号“5”的后，大脑将判别出它是5，把这个行为过程简单拆分为：

(1) 眼睛接受了输入

(2) 把输入信号传给其它脑神经元

(3) 脑神经元综合处理后，输出结果为5

我们知道，神经元与神经元之间是以电信号的形式来传递信息，当一个神经元的电信号积累到超过阈值时，就会将电信号传给其它神经元。而BP神经网络，则把神经元分为一层一层的前馈结构，构造出了对应的数学模型。

生物背景意义一般都是充当讲故事的材料，在实际使用中没有什么帮助和影响，大概知道一下就好了。

总结

这节我们快速的了解了BP神经网络的模型结构，其实它就是一种前馈模型，逐层向前计算，而每一层的运算也很简单，就是，只要知道输入，按照这个公式逐层计算就得到最后的输出了。