吴恩达Coursera(DeepLearning.ai)笔记和作业汇总。

历时一个多月终于把NG的五门课全部学完并且做了作业和笔记了。这里汇总一下：

第一门课：神经网络和深度学习

主要讲了神经网络的基本概念，以及机器学习的梯度下降法，向量化，而后进入了浅层和深层神经网络的实现。

• 前两周太简单了，在之前的机器学习课上NG全部都讲过了，这里就不做了。

• 第三周：主要是浅层神经网络的实现

  • 笔记：浅层神经网络
  • 作业：浅层神经网络

• 第四周：深层神经网络的实现

  • 笔记：深层神经网络
  • 作业：深层神经网络

第二门课：改善神经网络

介绍了改善神经网络的方法，如正则化，超参数调节，优化算法等。

• 第一周：训练集的划分、正则化、dropout

  • 笔记：深度学习的实践层面
  • 作业：深度学习的实践层面

• 第二周：Mini-batch、Momentum、RMS、Adam、学习率衰减

  • 笔记：优化算法
  • 作业：优化算法

• 第三周：超参数的调试、BatchNorm、softmax

  • 笔记：超参数调试
  • 作业：超参数调试

第三门课：结构化机器学习项目

主要讲了机器学习中的一些策略。

• 第一周：ML策略、正交化、优化指标、数据集的划分、偏差
  • 笔记：机器学习策略(1)
• 第二周：误差分析、数据不同分布、迁移学习、多任务、端到端
  • 笔记：机器学习策略(2)

第四门课：卷积神经网络

主要讲了神经网络的在图像上的非常重要的应用，卷积神经网络。

• 第一周：padding、步长、池化、卷积

  • 笔记：卷积神经网络
  • 作业：卷积神经网络

• 第二周：一些重要的神经网络结构，VGG、ResNet、Inception等

  • 笔记：深度卷积网络实例探究
  • 作业：深度卷积网络实例探究

• 第三周：目标检测、Bounding Box、IOU、NMS

  • 笔记：目标检测
  • 作业：目标检测

• 第四周：人脸识别和神经风格转换

  • 笔记：人脸识别和神经风格转换
  • 作业：人脸识别和神经风格转换

第五门课：序列模型

主要讲了神经网络在语言领域的应用，用RNN模型

• 第一周：介绍了基本的RNN、GRU、LSTM
  • 笔记：循环神经网络
  • 作业：构建RNN、字符级生成恐龙名字、LSTM生成爵士乐
• 第二周：自然语言处理与词嵌入
  • 笔记：自然语言处理与词嵌入
  • 作业：词向量运算和emoji表情包
• 第三周：序列模型和注意力机制
  • 笔记：序列模型和注意力机制
  • 作业：机器翻译和触发关键字