深色模式
基础知识学习地图
基础知识不需要全部学完才开始科研,但要知道学什么、学到什么程度、用什么资料。下表按“必须 / 按方向 / 以后再学”分类,并对应到课内课程。
总览
| 主题 | 学到什么程度 | 对应课内课程 | 资料 | 用时参考 |
|---|---|---|---|---|
| Python 与数据处理 | 必须:能写几百行的实验脚本,熟练用 NumPy、Pandas、Matplotlib | 程序设计 | CS61A、《利用 Python 进行数据分析》 | 3~4 周 |
| 数学基础 | 必须:理解矩阵运算、梯度、概率分布的含义,能看懂论文里的公式 | 线性代数、概率论、高等数学 | 3Blue1Brown、MIT 18.06、MML | 与课程同步 |
| 机器学习 | 必须:理解训练、评估、过拟合,用过 scikit-learn | 机器学习(常在大二下或大三) | 吴恩达、李宏毅、西瓜书 | 4 周 |
| 深度学习与大模型 | 必须:会用 PyTorch,理解 Transformer 和大模型推理过程 | 深度学习、自然语言处理 | d2l、Karpathy、CS336、happy-llm | 6~8 周 |
| 强化学习 | 按方向:做调度、云边协同(方向一、四)必须 | 强化学习(多为选修) | 动手学强化学习、HF Deep RL | 4 周 |
| 计算机系统 | 按方向:做 AI Infra(方向一、二、四)要逐步补齐 | 计算机组成、操作系统、计算机网络 | CS:APP、MIT 6.1810、CS149 | 长期 |
| CUDA 编程 | 以后再学:做算子优化时再系统学 | — | PMPP、GPU MODE | — |
按方向的侧重
| 方向 | 重点补 |
|---|---|
| 方向一:云边协同的大模型服务 | 大模型推理原理、强化学习、计算机网络 |
| 方向二:端侧复杂应用加速 | 大模型推理原理、操作系统、并行计算 |
| 方向三:生成式 AI 加速 | 深度学习(扩散模型、Transformer)、PyTorch 熟练度 |
| 方向四:多模型推理与容器调度 | 操作系统、分布式系统、强化学习;读在线算法类论文还需要优化与算法的基础 |
| 方向五:多模态推理与检索 | 深度学习(CLIP、视觉语言模型)、数据处理 |
学习方法
- 看课 + 动手 + 输出三件事都要做。只看视频不写代码,过两周就忘了。每学完一个主题,写一页笔记或者讲给同学听。
- 以用带学:不需要把每门课都学完才动手。比如学完 PyTorch 基础就可以去做 L1 实验,遇到不懂的再回头补。
- 用好 AI 助手:看不懂的地方让它换个角度解释,学完让它出题考你,见 AI 工具与学术规范。
- 课外自学地图:计算机自学指南(csdiy.wiki)收录了大量国外名校公开课的学习路线和资源,本节很多课程都可以在那里找到更详细的介绍。
关于视频课
本节推荐的国外公开课大多可以在 B 站找到中文字幕的搬运版本,搜索课程名即可。如果搬运版本和官网不一致,以课程官网为准。