李宏毅2020机器学习课程笔记（三）- CNN、半监督学习、RNN

相关专题： 李宏毅2020机器学习资料汇总
本系列笔记：

1. 李宏毅2020机器学习课程笔记（一）- 分类与回归
2. 李宏毅2020机器学习课程笔记（二）- 深度学习
3. 李宏毅2020机器学习课程笔记（三）- CNN、半监督、RNN

4. CNN

Convolutional Neural Network（P17）

首先，李宏毅老师介绍了为什么要用CNN来处理图像。

Q：明明 DNN 也可以处理图像，那么为什么要用 CNN 呢？

A：普通的 DNN 用的是全连接层，参数数量特别多。因此，可以根据图像特征，将DNN 简化为CNN，基于以下几个观察（特性）：

1. 一些模式（pattern）远比整张图像小得多，一个神经元只需要发现这些模式，而不需要看整张图像。如：人脸识别中，一些负责识别眼睛，一些负责识别鼻子，一些负责识别嘴巴等等。将一些小区域与少量参数相关联。
2. 同样的模式可能出现在图像的不同区域。如：人脸识别中，鼻子在图上的位置可能不同，可能在正中间，可能偏上，也可能偏下。用同一组的参数做几乎同样的事情。
3. 对图片做下采样，不会改变图中的物体。下采样让图像变小，减少参数。
   
   

卷积层针对特性1和特性2，最大池化（Max Pooling）层针对特性3。

AlphaGO下围棋也用到了CNN，因为围棋棋盘也满足1和2这两个特性。

李宏毅老师先整体介绍了 CNN 的流程，然后分别