面向 deep learning 算法落地的 engineering 工作。
比做算法的懂工程落地,比做工程的懂算法模型。
技术视角上,无非是 2 件事:
- 提高代码的运行速度 -- 高性能计算
- 提高代码的开发效率 -- 工程效率
产品视角,暂不讨论。
一些有代表性的具体工作:
- 通用矩阵乘(GEMM)优化与卷积计算
- 高性能的数学运算库:openblas, MKL etc
- 深度学习框架:Caffe, MxNet, TensorFlow etc
- 分布式的深度学习训练平台:各家公司自建为主
- 深度学习的推理框架:TensorRT, OpenVINO
- 模型自动部署和测试:各家公司自建为主
- 存训练数据的分布式小文件存储:ceph 等
[WIP]: work in progress, 进行中
- [WIP] 初始化提纲目录
- 明确此文档的长期维护机制
- 定义技能等级和衡量标准
- 画一张总体局面图
- 定义学习的优先级
- 我的学习计划
- 给出每个技能的学习路径
- 完善优质的学习材料
- re-org 文档目录结构
NLP、CV、语音等都要解决的通用问题。
包括但不限于:
- CNN 模型
- RNN 模型
- 轻量模型:MobileNet 等
- 模型量化
- 无监督学习
-
[Paper Reading] 经典 CNN model -- 从 AlexNet 到 ResNet
三大经典实用模型:AlexNet、VggNet、ResNet
-
[Paper Reading] Learning with Noisy Label -- 深度学习落地
当前研究热点,semi-supervised learning 流派越来越抢眼
图片、视频相关。包括但不限于:
- 识别
- 检测
- 分割
- 生成
TODO
Face Detection
包括但不限于:
- 文本分类
- 阅读理解
- 机器翻译
- 文本相似度计算
- 文本生成
- 对话系统
TODO
Basic Models
- Speech and Language Processing | pdf
- A Stochastic Parts Program and Noun Phrase Parser for Unrestricted Text | pdf
- A Statistical Approach to Machine Translation | pdf
- Spam Filtering with Naive Bayes – Which Naive Bayes? | pdf
Undirected Graphical Model
alias: Markov network, Markov Random Field (MRF)
HMM, MEMM, CRF
- introduction to Hidden Markov Model pdf Chap.8 Part-of-Speech Tagging
- Conditional Random Fields - Probabilistic Models for Segmenting and Labeling Sequence Data | pdf
Near-duplicate Detection
- N-gram Similarity and Distance | pdf
- A Closer Look at Skip-gram Modelling | pdf
- Similarity Estimation Techniques from Rounding Algorithms | pdf
- Detecting Near-Duplicates for Web Crawling | pdf
包括但不限于:
- 语音识别
- 语音合成
- 声纹识别
- 语音唤醒
- 说话人分离
TODO
TODO
语言之争,仁者见仁。
我的选择:
- 指令集:x86, arm 的精简指令集
- 高性能计算语言:c++
- 脚本语言:python。深度学习框架普遍支持
- 工具类:shell
TODO
以用为目的,不深究原来和实现
- Linux
- git, vim, docker 等
遇到这些问题怎么办:
- 内存泄露
- stack over flow
- segment fault
- 我的代码 work 了,但不知道为什么
- 我的代码不 work 了,但不知道为什么
工具:
- gdb
todo
TODO
TODO
Caffe, MxNet, TensorFlow etc
TensorRT, OpenVINO
- 编码器、解码器
- 图片编码格式
- 视频格式
- 音频格式
- 常用工具:FFmpeg,RTSP
GEMM, openblas, MKL etc
-
docker
-
k8s
-
argo/airflow
-
会用。普遍需要
-
会运维。大部分人不需要。
- NFS
- OSS
- 开源系统:ceph
好像不应该单列,但现在的框架,名字不是 xxxFlow,就是 yyyFlow。 底层模型,非 Pipeline 即 Graph。 与时俱进,把这个也单列出来。
随便看看的有趣内容
- Web search for a planet: The Google cluster architecture | pdf
- Finding and evaluating community structure in networks | pdf
- Fast algorithm for detecting community structure in networks | pdf
-
爬虫从 html 变成了 json API 为主。hbase 很好,但时代变了,继续用 Mongo
- Bitcask - A Log-Structured Hash Table for Fast Key/Value Data | pdf | notes
- The Google File System | pdf | notes
- Bigtable: A Distributed Storage System for Structured Data | pdf
- The Chubby lock service for loosely-coupled distributed systems | pdf
todo
TODO
分布式理论
- Brewer’s Conjecture and the Feasibility of Consistent, Available, Partition-Tolerant Web | pdf | notes
- BASE: An Acid Alternative | pdf | notes
- Eventually consistent | pdf
- Conflict-free Replicated Data Types | pdf
- The Byzantine Generals Problem | pdf
- The Part-Time Parliament | pdf
- Paxos Made Simple | pdf
MapReduce
TODO
TODO
- 不改动内容框架的前提下,更新内容
- 增加 toc,更新 toc
- 改动内容框架
- 增加新的类目
- 类目关系重新组织
- 更新总体局面图
开始时间 | 事项 | 输出 | 耗时 | 评价 |
---|---|---|---|---|
2021.5.26 | 学 c++ 基本功 | TODO | 4d | 满意 |