计算机视觉

计算机视觉是深度学习的一个非常重要的应用。比如图像分类，目标检测，图片风格迁移等。

用传统的深度学习算法，假设你有一张$64×64$的猫片，又有RGB三通道，那么这个时候是$64×64×3=12288$，input layer的维度就是12288，这样其实也还可以，因为图片很小。那么如果你有$1000×1000$的照片呢，你的向量就会有300万！假设有1000个隐藏神经元，那么就是第一层的参数矩阵$W$有30亿个参数！算到地老天荒。所以用传统的深度学习算法是不现实的。

边缘检测

如图，这些边缘检测中，用水平检测和垂直检测会得到不同的结果。

垂直检测如下图，用一个$3×3$的过滤器（filter），也叫卷积核，在原图片$6×6$的对应地方按元素相乘，得到$4×4$的图片。

可以看到，用垂直边缘的filter可以将原图片中间的边缘区分出来，也就是得到了最右图中最亮的部分即为检测到的边缘。

当然，如果左图的亮暗分界线反过来，则输出图片中最暗的部分表示边缘。

也自然有水平的边缘分类器。

还有更复杂的，但是我们不需要进行人工的决定这些filter是什么，因为我们可以通过训练，让机器自己学到这些参数。

padding

padding是填充的意思。

我们可以从之前的例子看到，每经过一次卷积运算，图片的像素都会变小，从$6×6 —> 4×4$，这样子图片就会越来越小，后面就毛都不剩了。
还有一点就是，从卷积的运算方法来看，边缘和角落的位置卷积的次数少，会丢失有用信息。

所以就有padding的想法了，也就是在图片四周填补上像素。

$填充后从$6\times6 ->8\times8$，经过$3\times3$卷积后，还是$6\times6$$

计算方法如下，

原数据是$n \times n$，filter为$f \times f$,padding为$p \times p$，

那么得到的矩阵大小是$(n + 2p -f +1)\times(n + 2p -f +1)$

padding有两种：

valid：也就是不填充
same：输入与输出大小相同的图片, $p=(f - 1) / 2$，一般padding为奇数，因为filter是奇数

stride（步长）

卷积的步长也就是每一次运算后平移的距离，之前使用都是stride=1。

假设stride=2，就会得到：

得到的矩阵大小是

$$\lfloor \frac{n+2p-f}{s}+1\rfloor \times \lfloor \frac{n+2p-f}{s}+1\rfloor$$

向下取整: 59/60 = 0

立体卷积

之前都是单通道的图片进行卷积，如果有RGB三种颜色的话，就要使用立体卷积了。

这个时候的卷积核就变成了$3 \times 3 \times 3$的三维卷积核，一共27个参数，每次对应着原图片上的RGB一共27个像素运算，然后求和得到输出图片的一个像素。因为只有一个卷积核，这个时候输出的还是$4 \times 4 \times 1$的图片。

多个卷积核

因为不同的卷积核可以提取不同的图片特征，所以可以有很多个卷积核，同时提取图片的特征，如分别提取图片的水平和垂直边缘特征。

因为有了两个卷积核，这时候输出的图片就是有两通道的图片$4\times 4 \times 2$。

这里要搞清两个概念，卷积核的通道数和个数：

通道数channel：即卷积核要作用在原图片上，原图片的通道处$n_c$，卷积核的通道数必须和原图片通道数相同
个数：即要使用多少个这样的卷积核，使用$n_{c}^{\prime}$表示，卷积核的个数也就是输出图片的通道数，如有两个卷积核，那么生成了$4\times 4 \times 2$的图片，2 就是卷积核的个数
即 $n \times n \times n_c$ ，乘上的$n_{c}^{\prime}$个卷积核 $ f \times f \times n_c$，得到$(n -f +1)\times (n - f +1 ) \times n_{c}^{\prime}$的新图片