边缘智能科研入门

深色模式

更新记录 ​

2026 年 11 月 5 日：静态版上线 ​

本站目前以纯静态方式发布：不需要登录，也不收集个人信息；学习路线的勾选进度只保存在你自己的浏览器里。账号登录、老师后台和组内工具暂未开放，见组内工具即将开放。下面记录中提到的这些功能属于完整版，开放后恢复。

2026 年 10 月 16 日：内容修订 ​

对全部页面做了一次对抗性审查，修正了以下问题：

照着做会失败的步骤

  • L1：启动 vLLM 前要先停掉常驻显存的 Ollama；同一张卡上不能再启动第二个 vLLM（给出三种做法）；补充驱动 ≥ 580 的要求、8 GB 显存能跑多大的模型、多模态模型的下载命令，以及相应报错的处理方法。
  • L2：中文 CLIP 的编码代码兼容 transformers 5.x；说明索引的距离类型要和查询运算符一致。
  • L5：第 3 步做完后恢复原来的 forward，否则第 5 步的热力图是错的。
  • L4：Ray Serve 和 vLLM 都默认占用 8000 端口。
  • Docker 和 L9：演示共享层的镜像换成 python:3.12-slim 和 python:3.13-slim（node:22-slim 现在和它没有共享层）。
  • Python 环境：新建项目时用 uv init --python 3.12 指定版本。

会把方法教错的地方

  • L7：kube_pod_start_time 记录在拉取镜像之前，不能用来算包含镜像下载的启动耗时，改用容器开始运行或就绪的时间。
  • 强化学习：LDLS、ToN 2024、TSC 2024 用的是 PPO，不是 REINFORCE；补全了 LDLS 状态的描述。
  • 写作规范：局限性要如实写，不回避影响结论的问题。

学习路线

  • 路线 A：Python 环境提前到第 2～3 周；补上 Docker；KV Cache 估算挪到学过注意力之后；说明没有 GPU 时 L1 怎么做。
  • 路线 B：补上强化学习入门；复现阶段延长到 6 周，目标定为“复现一个数”。
  • 统一了各页面的每周投入时间，自测改为按能力选路线。

其他：更新了 PyTorch、Kubernetes、Zotero、vLLM 的版本信息；更正 NeurIPS 2026 对披露位置的要求；修正“微积分的本质”的链接；以及若干表述和单位问题。投稿前检查的参考文献核对改为依次检索 Crossref、OpenAlex、arXiv、DBLP。

2026 年 10 月 14 日：组内工作台 ​

新增组内工作台，和手册共用账号。新增“组内成员”身份，由老师在后台开通，或者用组内成员邀请码注册。

组内管理

  • 周报：每周提交，可以一键插入这一周完成的学习任务；老师查看全员汇总、评论；每周五自动给没交的同学发邮件提醒。
  • 论文进度看板：每篇论文一张卡片，从想法到录用；目标会议的截止日期可以从 CCF DDL 中查询，自动换算成北京时间。
  • 组内知识库：内部资料，网页上直接编辑，保留修改历史。
  • GPU 看板：各台服务器的 GPU 使用情况，标出占着显存却不在计算的卡。

科研辅助

  • 每日论文：每天从 arXiv 和 Hugging Face 筛选与组里方向相关的新论文，推送到群里。
  • 投稿前检查：按组内论文写作规范检查 LaTeX 源文件，并到 DBLP、Crossref、arXiv 逐条核对参考文献是否真实存在。
  • 组内论文问答：针对组内已发表的 42 篇论文提问，回答标注出处。

对外与招生

其他

  • 新增组内论文写作规范（课题组整理），各章节的写法和句式模板、数学符号规范、自查清单。
  • 隐私说明补充了组内工具保存的数据。

2026 年 10 月 14 日：组内论文与复现 ​

结合课题组已发表的论文（导师主页上的 PDF 和 arXiv 预印本），新增组内论文的阅读和复现内容。

新增页面

  • 组内论文导读：按方向介绍组内代表论文的问题、方法、结果和代码，包括综述、VELO、SCD、HeraSys、BWCache、PrediT、SCOPE、EAT，以及容器调度方向的 LDLS、LRScheduler、LECU、OCS、ORR、ROCS 等。
  • 读组内论文：组内论文的两种类型；建模与算法类论文的六步读法（符号表、任务时间线、问题建模、强化学习、在线算法与竞争比、实验）；方法与系统类论文的读法；推荐阅读顺序；LRScheduler 的精读笔记示例；每篇论文都要回答的 7 个问题。
  • 复现组内论文：运行官方代码、自己写仿真器、搭真实系统三种复现方式；复现的四个级别；仿真器自查清单；复现报告模板；组内论文的研究脉络，以及如何从复现走向自己的研究。
  • L9 层感知容器调度仿真：按 LDLS 的系统模型写仿真器，实现 6 种基线算法，用策略梯度训练调度策略，做多种子实验和敏感性分析。代码已在 CPU 上实际运行，文中给出了实测结果。

扩充的内容

  • 研究方向：补充组内论文及 arXiv、代码链接。
  • L5：新增选做的第 5 步，画出各模块特征随去噪步变化的热力图，对照 BWCache 的观察，并介绍组内论文的官方代码。
  • L6：说明如何把 L9 中的打分方法用到自定义调度器上。
  • 强化学习：调度论文中常见的建模方式、常用技巧和组内论文用到的算法。
  • 数学基础：优化问题的记号、整数规划与松弛、NP-hard、在线算法与竞争比（以滑雪租赁问题为例）、排队的基本概念。
  • 汇报与写论文：建模与算法类期刊论文的写法、伪代码模板、会议版扩展成期刊版、回复审稿意见。
  • Docker：镜像层的原理、查看方法，以及和研究的关系。
  • 加入我们：课题组近年成果、本科生在组里的成长路径、申请建议。
  • 附录：术语表新增“建模与算法”一节，并补充强化学习、大模型推理、扩散模型、容器的术语；会议与期刊页增加组内论文的发表情况；常见问题新增 4 条。
  • 学习路线：路线 B 新增“精读一篇组内论文”；复现任务优先选择组内论文。

2026 年 10 月 14 日：登录方式调整 ​

  • 登录方式调整为邮箱验证码为主、学号密码为备用：使用学校邮箱登录的同学不需要邀请码；学号密码凭邀请码注册，忘记密码由老师在后台重置，登录后可以自己修改密码。
  • 微信公众号、GitHub 等登录方式保留为可选项，由部署配置决定是否启用。

2026 年 10 月 14 日：账号登录与老师后台 ​

  • 新增账号登录，主要方式是微信公众号登录：网页显示 6 位登录码，关注公众号后发送即可自动登录；也可以发送“登录”获取验证码。另外支持邮箱验证码、GitHub、Google 和微信开放平台扫码登录，由部署时的配置决定启用哪些。
  • 首次登录需要填写姓名和老师发放的邀请码。
  • 登录后学习路线的进度保存到账号，换电脑也不会丢；登录前在浏览器里勾选的进度会自动合并进账号。
  • 新增老师后台：查看每个学生两条路线的完成情况和最近活跃情况、展开查看每项任务、导出 CSV、管理邀请码。
  • 新增隐私说明。

2026 年 10 月 14 日：学习路线可打勾 ​

  • 学习路线改成可勾选的交互清单：路线 A 共 24 项任务，路线 B 共 22 项，按阶段显示进度，标出需要留下成果的“产出”任务。
  • 进度自动保存在浏览器里，刷新、关闭后仍在；提供“复制进度”按钮，一键生成最近 7 天完成情况和下一步计划，可直接粘贴进周报；支持导出、导入，方便换电脑。
  • 网站不收集任何进度数据。

2026 年 10 月 14 日：面向大一大二扩充 ​

根据大数据、人工智能专业低年级学生的情况，调研 2025～2026 年的最新课程、教程和工具后，扩充了科研方法、基础知识、实验环境三部分。

入门引导

  • 首页和如何使用本手册增加能力自测、专业背景说明。
  • 学习路线拆分为路线 A（大一或基础较弱，16 周，每周 6～8 小时）和路线 B（大二或已有基础，8 周），并说明如何与课程学习平衡。
  • 实验总览增加难度标注和开始前的准备清单；术语表增加基础概念。

科研方法

  • 新增本科生如何开始科研：科研与上课的区别、参与科研的几种方式（进组、大创、竞赛）、联系导师的邮件模板、进组后的预期与习惯、提问模板。
  • 找论文与读论文：增加读英文论文的方法、AI 辅助阅读工具（alphaXiv、NotebookLM 等）及正确用法、Zotero 配置步骤与常用插件。
  • 复现与实验：增加实验项目结构、实验脚本模板、统计与论文画图代码。
  • 汇报与写论文：增加 LaTeX 与 Overleaf 快速入门、英文写作和画图规范。
  • AI 工具与学术规范：增加 ICLR 2026、NeurIPS 2026 关于大模型使用和编造参考文献的规定。

基础知识

  • 新增学习地图、Python 与数据处理、数学基础、机器学习、计算机系统基础。
  • 深度学习与大模型：补充 Karpathy Zero to Hero、Happy-LLM、Stanford CS224n（2026 冬）与 CS336（2026 春）、nanochat、MIT 6.5940、CMU 深度学习系统与机器学习系统课程，并给出第一个训练程序。
  • 强化学习：补充 Hugging Face Deep RL 课程和大模型强化学习入门材料。

实验环境

  • 拆分为七页：选择环境与 Linux 入门、使用服务器、Python 环境、GPU 与 CUDA、Git 与 GitHub、Docker、AI 编程助手。
  • 新增内容：WSL2 详细步骤与常见误区、终端与环境变量入门、共用服务器的规矩、uv 与 Miniforge 用法（并说明不使用 Anaconda 默认源的原因）、PyTorch 与 CUDA 驱动的版本关系（截至 2026 年 10 月）、免费和低价 GPU 资源、Git 撤销操作与国内访问、AI 编程助手的学生政策和使用原则。

2026 年 10 月 13 日：网站版 ​

在内部文档的基础上重新整理为网站。

结构调整

  • 把原来的“总体研究内容 / 学习计划 / 具体入门文档”三部分，重新组织为：开始、科研方法、基础知识、实验环境、动手实验、附录。
  • 原来“系统类 / 数据类 / 应用类”的技术内容，改写成 8 个按“目标 → 环境 → 步骤 → 预期结果 → 常见问题”组织的实验，并标明对应的研究方向。
  • 原来 1～2 个月的学习计划，细化成按周推进、每阶段有明确产出的 8 周入门路线。

新增内容

  • 科研方法：找论文与读论文、复现与实验规范、周报与组会、系统论文写作、AI 工具使用规范。
  • 研究方向：为每个方向补充组内 2025～2026 年的新论文和外部代表工作；方向五补充了外部参考论文。
  • 新实验：从零实现 RAG 并用 LangGraph 编排、Ray 与 Ray Serve、扩散模型的计时与特征相似度测量、在 K8s 上部署 vLLM、Python 自定义调度器、用 Python 采集 Prometheus 指标、Jetson 测速与功耗。
  • 附录：会议与期刊、术语表、常见问题。

更新的过时内容

  • 模型：Qwen2.5 示例改为 Qwen3 / Qwen3.5；视觉语言模型改为 Qwen3-VL；视频生成模型补充 Wan2.2、HunyuanVideo 1.5、LTX-2 等。
  • 推理服务：增加 vllm bench serve 压测、Qwen3 思考模式的关闭方法、SGLang。
  • Kubernetes：安装源从 1.26 版本和旧软件源更新为 pkgs.k8s.io，示例版本为 1.36；学习阶段推荐使用 kind；部署示例从 Stable Diffusion WebUI 改为 vLLM 推理服务；补充 GPU Operator。
  • PGVector：补充 PostgreSQL 18 镜像数据卷路径变化的说明。
  • CLIP：改用 Hugging Face Transformers 的接口，中英文写法统一。
  • 环境：补充 WSL2、Mac、uv、Hugging Face 镜像等内容；Ubuntu 推荐版本更新为 24.04。
  • LangGraph 文档地址更新为新的官方文档站。

修正的错误

  • PGVector：拉取 pg17 镜像却运行 latest 镜像，改为统一版本；SQL 注释从 # 改为 --。
  • Ollama：镜像名 ollama 改为 ollama/ollama；docker exec 的容器名与 docker run 的容器名不一致。
  • kubeadm：--service-cidr 10.0.96.0/12 疑为笔误（默认值为 10.96.0.0/12），改为使用默认值；去掉了 --ignore-preflight-errors。
  • Prometheus：“mem 空闲”实际计算的是内存使用率；“mem 使用率”实际计算的是空闲比例；“使用内存的百分比”公式中缓冲区的符号有误；“实时 CPU（总量为 1）”实际计算的是忙碌核数；“网卡 5 分钟增长率”是区间向量而非增长率。均已修正。

移除的内容

  • 百度网盘中第三方课程视频和资料的链接（不宜公开转发）。
  • 实验室内部地址、个人目录路径、具体的 API Key 申请渠道。
  • Open-Sora 1.2 的源码修改记录、Stable Diffusion WebUI 的 Docker 部署步骤（版本已过时）。

2025 年 9 月 25 日：内部文档 ​

作者：崔涵帅、姚智、王振胜、唐志清。

作者：崔涵帅、姚智、王振胜、唐志清 · 边缘智能系统实验室

内容许可待定