深色模式
计算机系统基础
AI Infra 方向（方向一、二、四）研究的是“让模型在真实系统上跑得又快又省”，绕不开计算机系统的知识：程序在 CPU 和 GPU 上怎么执行、内存和显存怎么管理、进程和容器怎么调度、数据怎么在网络里传输。
人工智能、大数据专业的课程表里这些课往往较少或较晚。大一大二不需要一次学完，先建立概念，做研究遇到具体问题时再针对性深入。
学什么、学到什么程度
| 主题 | 大一大二先掌握 | 做研究时再深入 | 资料 |
|---|---|---|---|
| 计算机组成与体系结构 | 存储层次（寄存器、缓存、内存、磁盘）的速度差距；CPU 和 GPU 的区别 | GPU 架构、内存带宽与算力的关系（Roofline 模型） | CS:APP、CMU 15-213 |
| 操作系统 | 进程与线程、内存管理与虚拟内存、文件系统的基本概念 | 调度算法、分页（vLLM 的 PagedAttention 就借鉴了它）、容器原理（namespace、cgroup） | MIT 6.1810、南京大学操作系统课 |
| 计算机网络 | TCP/IP 分层、HTTP、延迟与带宽的区别 | RPC、数据中心网络、RDMA | 《计算机网络：自顶向下方法》、Stanford CS144 |
| 并行计算 | 并行与并发的区别、加速比、为什么 GPU 适合矩阵运算 | CUDA 编程、通信集合操作（AllReduce） | Stanford CS149、PMPP |
| 分布式系统 | 为什么需要分布式、一致性和容错的基本概念 | 分布式训练与推理的并行策略 | MIT 6.5840 |
推荐资料
| 资料 | 说明 |
|---|---|
| 《深入理解计算机系统》（CS:APP）与 CMU 15-213 | 从程序员视角讲计算机系统，系统方向的“必读书”。实验（如 Data Lab、Cache Lab）质量很高 |
| MIT 6.1810（原 6.S081） | 操作系统课，在教学操作系统 xv6 上动手实现系统调用、页表、调度等 |
| 南京大学操作系统：设计与实现（蒋炎岩） | 中文、偏动手的操作系统课，B 站有录像，看最新学期的版本 |
| Stanford CS144 | 计算机网络，实验中自己实现 TCP |
| Stanford CS149 | 并行计算：多核、SIMD、GPU、CUDA |
| MIT 6.5840（原 6.824） | 分布式系统，实验中实现 Raft 共识算法 |
| 计算机自学指南 | 以上课程都能在这里找到详细的学习指引和资源汇总 |
这些课程难度不低，不需要全部学完。建议的顺序：先读 CS:APP 的前几章和存储层次一章，再按方向选一门：做调度和容器的选操作系统，做云边协同的选网络，做推理加速的选并行计算。
和课题组研究的联系
| 系统知识 | 在研究中的体现 |
|---|---|
| 存储层次、内存带宽 | 大模型解码阶段受显存带宽限制，KV Cache 的放置和卸载 |
| 虚拟内存与分页 | vLLM 的 PagedAttention 管理 KV Cache |
| 进程调度 | 推理请求调度、多模型共享 GPU |
| 容器（namespace、cgroup、镜像分层） | 容器调度、镜像层感知的部署与迁移（见 Docker 的镜像层） |
| 网络延迟与带宽 | 云边协同时哪些计算放在端侧、哪些放在云端 |
| 并行与通信 | 张量并行、流水线并行、预填充与解码分离 |
做 L6 Kubernetes 与调度、L8 Jetson 端侧推理、L9 层感知容器调度仿真 时，会直接用到这些知识。