第三章 神经网络萃取隐蔽相关性（第7页）

因为五官在一张照片中只占一小块，那我们就做个找五官的小模板，专业术语叫滤波器，用这个小模板在要处理的图像上从左扫到右，从上扫到下，看看能否发现眼睛，另外一个小模板负责发现鼻子等。

什么叫“发现鼻子”

？就是负责发现鼻子的小模板是一张像鼻子的图案，这个图案扫到鼻子处时重合度最大。

什么叫提取特征？就是一开始这个鼻子图案是个随机图案，像是随手那么一画，扫一遍下来发现没有什么重合度，那就变一变这个图案，最后变得和犯罪嫌疑人的鼻子很像时，重合度就会最大。

等负责找出鼻子、眼睛、嘴巴等的模板图案都和犯罪嫌疑人的吻合后就算训练成功了。

以后你输入一张照片，机器就可以飞速地告诉你这个是不是犯罪嫌疑人。

在机器学习中，是机器自己寻找特征。

一开始机器并不知道要找哪些特征。

所以这些小模板并不知道它们要找鼻子或眼睛。

这些小模板从开始的一个随机图形到最后一定会演变成五官吗？答案是如果五官是人脸上最重要的特征，这些小模板到最后一定会演变成五官。

但神奇的是机器还能发现我们人类都没注意到的人脸上的重要特征。

假如我们多加一个小模板变成六个，这六个中会有五个各自对应一个器官，还有一个就会找到一个新的特征，如两眼之间的距离，或者口鼻之间的距离，等等。

所以小模板越多，抓到的特征就越多，识别就越准确。

现在你要问，这个小模板发现鼻子和前面讲的神经网络黑盒子的调旋钮是什么关系？其实这个小模板就是一组旋钮，一个有5×5=25个像素的小模板就相当于25个旋钮，每个像素的颜色浓度对应着一个旋钮的某个位置，调旋钮就是让小模板里的图案越来越像犯罪嫌疑人的鼻子。

我们之前讲过，这个“调旋钮”

不是人工调的，是算出来的。

现在我们可以看看到底省了多少计算量，如果一张图片是1024×1024≈100万像素，每个像素对应一个接收神经元，每层有100万个神经元，这样一个全连接的神经网络每一层要有100万×100万=1万亿次计算。

现在只要五个小模板，每个负责找到五官中的一个。

每个小模板把图片上下左右扫一遍的计算量是5×5×100万=2500万次，5个模板就是1.25亿次。

计算量变成了原来的万分之一！

我现在可以告诉你什么叫“卷积”

，上面说的小模板把图片上下左右横扫一遍发现重合度的过程就叫卷积。

你看这个唬人的黑科技名词其实就是这么简单的一回事。

上面是对卷积神经网络的基本原理的一个通俗解释。

对于想更深入了解的读者可以看附录1中一个典型卷积网络的精确描述。

从附录1中可以看出卷积神经网络不仅是一个高阶的非线性网络，也是一个无法用方程式表达的函数。

给定一个训练数据集，最后这些数据之间的相关性都会凝结在网络参数里。

或者说神经网络是数据相关性的“萃取器”

。

但萃取了哪些相关性？为什么萃取这些相关性则是人们未必能理解的。

比如人脸识别，机器抓取的用于识别的人脸特征可能是人类不熟悉的那些特征，甚至完全没有意识到的特征。

对于那些人类感官无法感受的复杂数据集，比如一个核电厂成千上万个子系统产生的数据以及它们之间的相关性，那更是人类完全无法理解的。

卷积神经网络能做哪些事

首先，几乎所有的图像类的处理，如图像分类、人脸识别、X光读片，都适合用卷积神经网络。

图像分类最著名的大赛就是斯坦福大学李飞飞教授创办的ImageNet（计算机视觉系统识别项目，是目前世界上图像识别最大的数据库）大赛。

这个大赛提供1000种不同物体的几百万张图片让参赛者训练自己的模型，参赛时给大家一些新的图片让参赛者识别，看谁的识别准确率最高。

2012年辛顿的学生亚历克斯·克里捷夫斯基（AlexKrizhevsky）第一次用一个5层的卷积神经网络就把多年徘徊在74%的准确率一举提高到84%，震惊了业界。

到2015年微软的152层ResNet把准确率提高到了96%，超过了人类的准确率95%。

从那以后进展就越来越小。

有些公司组织大量的人力，采集更多的训练图片，尝试更多的小模板，更精心地微调那些旋钮，最后能达到比现有结果好0.1%，然后就可以宣称自己是世界第一了。

本章未完，点击下一页继续阅读