附录1 一个经典的5层神经网络LeNet5

一秒记住【xiaoyanwenxue】精彩无弹窗免费！

“罗辑思维荐书集锦（套装共24册）（.shg.tw）”

！

附录1：一个经典的5层神经网络LeNet-5

图附1.1是由人工智能大神之一岩·拉孔（CNN的发明人）提出的典型的卷积网络LeNet-5。

这个网络的左边是输入的待识别的图像，最右边有10个输出，因此可以识别10种不同的图像，例如手写体的0，1，2，…，9。

图附1.1岩·拉扎提出的卷积网络LeNet-5

图片来源：http:yann.lecun.exdblenet。

输入图像的大小是32×32。

网络的第一层是卷积层，所谓“卷积”

就是拿着各种不同的小模板（图附1.1的模板大小是5×5）在一张大图上滑动找相似的图形（每个模板是一个特定的图形，例如三角、方块、直线、弧线等）。

模板在大图中一个一个像素滑动，在每一个滑动位置，都把大图上的像素值和模板对应的像素值相乘再全部加起来，把这个加总之和作为一个新的输出像素。

当模板滑动过所有像素时，这些新的像素就构成一张新的大图。

在模板滑动过程中，每当碰上大图中有类似模板上的图形（即在大图上这个区域的图形和模板重合度高时），新的像素值就会很大。

图附1.1的模板尺寸是5×5，因此在32×32的输入图像上横竖都只能滑动28次，所以卷积的结果是一张28×28的图片。

在这个网络里，第一层使用了6个模板，所以第一层卷积后出来6张28×28的图片。

卷积的结果出来后，对每一个像素还要做一个“非线性”

处理。

一种“非线性”

处理方法就是把所有小于零的像素值用零来代替，这样做的目的是让网络增加复杂性，可以识别更复杂的图形。

网络的第二层叫采样层（down-sampling）或汇集层（pooling），简单讲采样层就是把大图变小图。

在这个网络里，采样的方法是用一个2×2的透明小窗在图片上滑动，每次挪动2个像素。

每挪动一个位置，把小窗内的4个像素的最大值取出来作为下一层图片中的一个像素（除了取最大值，也可以有取平均值等其他方法）。

本章未完，点击下一页继续阅读