wangxw1023 / cs231n-camp Goto Github PK

• 课程资料： 课程主页： http://cs231n.stanford.edu /
  course note： http://cs231n.github.io /
  知乎翻译： https://zhuanlan.zhihu.com/p/21930884
  推荐b站的视频观看 https://www.bilibili.com/video/av17204303/?p=3
  注册一个github账号: github.com
• 后续发布的一些project和exercise会在这个github下： https://github.com/orgs/sharedeeply/dashboard
  配置环境： https://github.com/sharedeeply/DeepLearning-StartKit

• 预习两套教程
• github教程：https://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000
• pytorh教程： https://pytorch.org/tutorials /

• 任务1：听深度学习绪论+0基础一小时完成一场比赛PPT

• 任务详解：视频1主要是介绍深度学习的一些应用案例，第二个是完成一次kaggle比赛的流程

• 任务2： 深度学习的工作与前景

• 任务详解：查看目前工业界最需要什么样的人，对未来有一个清晰地定位，并且查看并准备好课程材料 链接：

• 从今年校招来看，机器学习等算法岗位应届生超多，竞争激烈，未来 3-5 年机器学习相关就业会达到饱和吗？ - Cheeeen的回答 - 知乎 https://www.zhihu.com/question/66406672/answer/317489657

• 2019 秋招的 AI 岗位竞争激烈吗？ - 王剑锋的回答 - 知乎 https://www.zhihu.com/question/286925266/answer/491117602

• 论算法工程师首先是个工程师之深度学习在排序应用踩坑总结 - 吴海波的文章 - 知乎 https://zhuanlan.zhihu.com/p/44315278

• 任务名称：计算机视觉综述 slides: lecture01
• 观看视频 p1 和 p2 热身，了解计算机视觉概述以及历史背景
• 观看 p3 了解整门课程的大纲
• 作业： 阅读 python 和 numpy 教程和代码写一个矩阵的类，实现矩阵乘法，只能使用 python 的类(class)和列表(list)

• 任务名称：学习数据驱动的方法和 KNN 算法和线性分类器[上] slides: lecture02
• 观看视频 p4 p5 和 p6
• 学习 图像分类笔记上下 和 线性分类笔记上
• 作业:
• 完成assignment1 中的 knn.ipynb

1. 学习线性分类器[中 下], 损失函数和优化器
   slides: lecture03

• 观看视频 p7 和 p8，了解更多关于线性分类器，损失函数以及优化器的相关知识
• 学习线性分类笔记中下和最优化笔记，了解 SVM 和梯度下降法

作业:

1. 简述 KNN 和线性分类器的优劣（已完成）
2. (可选)学习矩阵求导的方法
3. 完成assignment1 中 svm.ipynb（已完成）

slides: lecture04

• 观看视频 p9 和 p10

• 学习反向传播算法的笔记

-反向传播算法的数学补充和例子 可选项：反向传播算法的博客

作业:

1. 理解并推导反向传播算法

2. 完成 assignment1 中的 softmax.ipynb 和 two_layer_net.ipynb

1. 学习 pytorch基础

2. 了解 kaggle 比赛房价预测, 并学习模板代码

作业:

1. 完成 assignment1 中 和 features.ipynb

2. 修改房价预测的代码，并提交kaggle查看得分

1. 卷积神经网络初步 slides: lecture05

• 观看视频 p11, p12 和 p13，学习 CNN 中的卷积层和池化层
• 学习卷积神经网络笔记

作业:

1. 完成 assignment2 中 FullyConnectedNets.ipynb 和 BatchNormalization.ipynb

2. 思考一下卷积神经网络对比传统神经网络的优势在哪里？为什么更适合处理图像问题

3. 了解和学习深度学习中的normalization方法

1. 如何更好的训练网络(上)
   slides: lecture06

• 观看视频 p14, p15，学习训练神经网络中的激活函数，初始化和正则化方法
• 学习神经网络笔记1和神经网络笔记2

作业:

1. 完成 assignment2 中 Dropout.ipynb

2. 打kaggle比赛 cifar10, 模板代码

3. (可选) 完成 facial keypoint 小项目，参考代码

1. 理解更 fancy 的优化方法，更多的 normalize 以及正则化和迁移学习对网络训练的影响

• slides: lecture07
• 观看视频 p16, p17 和 p18
• 学习神经网络笔记3

2. 了解第二次的 kaggle 比赛 cifar10 分类

• 报名 cifar10 比赛
• 学习模板代码

3. 全面的理解深度学习中的优化算法

• 阅读优化算法的笔记

4. 作业

• 完成 assignment2 中 ConvolutionNetworks.ipynb
• 修改 cifar10 的网络结构，在知识星球上提交 kaggle 成绩

1. 了解主流深度学习框架之间的区别与联系

• slides: lecture08
• 观看视频 p19

2. 了解经典的网络结构

• slides: lecture09
• 观看视频 p20

3. 理解卷积神经网络的最新进展

• 学习笔记变形卷积核、可分离卷积？卷积神经网络中十大拍案叫绝的操作

4. 作业

• 完成 assignment2 中的 PyTorch.ipynb
• 学习模板代码, 尝试更大的网络结构完成 kaggle 比赛种子类型识别的比赛，在知识圈上提交 kaggle 成绩

1. 掌握 RNN 和 LSTM 的基本知识

• slides: lecture10
• 观看视频 p21

2. 了解语言模型和 image caption 的基本方法

• slides: lecture10
• 观看视频 p22 和 p23

3. 更深入的理解循环神经网络的内部原理

• 学习blog Understanding LSTM Networks, 中文版本

4. 作业

• 完成 assignment3 中的 RNN_Captioning.ipynb
• 完成 assignment3 中的 LSTM_Captioning.ipynb
• 完成 coco 数据集上的 image caption 小项目，参考代码