6. 卷积神经网络¶
在前面的章节中，我们曾讨论过图像数据。对于图像数据，每个样本都由一个二维像素网格组成。 取决于我们处理的是黑白图像还是彩色图像，每个像素可能与一个或多个数值相关。到目前为止， 我们处理二维结构的方式还十分有限：先将每个图像的空间结构展平成一维向量， 再放入一个多层感知机中。由于这些网络相对于特征元素的顺序不变，所以无论我们保持像素在二维空间的顺序， 或是在拟合多层感知机的参数之前对二维矩阵的列进行交换，我们都可以训练相似的神经网络。 而最优情况是利用先验知识，即利用相近像素之间的相互关联性，建立图像数据的有效模型。
本章介绍的卷积神经网络（convolutional neural network，CNN）是一类强大的神经网络， 正是为处理图像数据而设计的。基于卷积神经网络结构的模型在计算机视觉领域中已经占主导地位， 当今几乎所有的图像识别、对象检测或语义分割相关的学术竞赛、商业应用都以这种方法为基础。
现代卷积神经网络的设计得益于生物学、群论和大量的实验研究。除了在获得精确模型的采样效率外， 卷积神经网络在计算上也是极其高效的。这是因为卷积神经网络需要的参数比多层感知机少， 而且卷积神经网络很容易用GPU并行计算。因此，实践者经常尽可能多地应用卷积神经网络。 即使在一维序列结构的任务上（例如音频、文本和时间序列分析），通常大家使用的是循环神经网络， 而实践者也会经常使用到卷积神经网络。通过对卷积神经网络一些巧妙的调整， 也使它们在图结构数据和推荐系统中发挥作用。
在本章的开始，我们将介绍构成所有卷积网络主干的基本元素。这包括卷积层本身、填充 （padding）和步幅（stride）、用于在相邻空间区域聚集信息的池化层（pooling）、 每层中多通道（channel）的使用以及有关现代卷积网络架构的全面介绍。在本章的最后， 我们将介绍一个完整的、可运行的LeNet模型：这是第一个卷积神经网络， 早在现代深度学习兴起之前就已经得到成功应用。在下一章中，我们将深入研究一些流行的、 相对较新并具有一定代表性的卷积网络架构。