实验总览

每个实验都按“目标 → 环境 → 步骤 → 预期结果 → 常见问题 → 延伸”的结构组织。L1 所有人都要做，其余按方向选。

实验	内容	难度	对应方向	需要 GPU	预计用时
L1 大模型部署与压测	Ollama、vLLM 部署，OpenAI 接口调用，测量 TTFT、吞吐	入门	全部	建议	半天
L2 向量数据库与多模态检索	PGVector 部署，CLIP 提取图文向量，实现以文搜图	入门	一、五	可选	半天
L3 RAG 与智能体	从零写一个 RAG，用 LangGraph 编排流程，了解 RAG 系统优化	中等	一、二	建议	1 天
L4 分布式：Ray 与 Celery	分布式任务、Actor、Ray Serve，Celery 任务队列	中等	二、四	否	半天
L5 扩散模型推理与加速	Diffusers 推理与计时，特征缓存加速，生成质量评测	进阶	三	必须	1～2 天
L6 Kubernetes 与调度	搭集群、部署推理服务、GPU 调度、写一个自定义调度器	进阶	四	可选	2 天
L7 Prometheus 监控	部署监控，用 PromQL 和 Python 采集资源指标	中等	四	否	半天
L8 Jetson 端侧推理	在 Jetson 上部署模型，测速度和功耗	中等	一、二	Jetson 设备	半天
L9 层感知容器调度仿真	把组内论文的系统模型写成仿真器，实现基线算法，用策略梯度训练调度策略	中等	四	否	1～2 天

开始之前

做实验前，确认已经完成实验环境一节：

• 有一个能用的 Linux 环境，熟悉基本命令；
• 会用 uv 或 conda 创建 Python 环境；
• 有 GPU 可用（实验室服务器、云 GPU 或本机显卡），并且验证过 PyTorch 能调用 GPU；
• 会用 Docker 的基本命令。

难度为“入门”的实验只需要这些；“中等”和“进阶”的实验还需要对应的基础知识。

推荐组合

你的方向	建议的实验顺序
方向一：云边协同的大模型服务	L1 → L3 → L2 → L8
方向二：端侧复杂应用加速	L1 → L3 → L8 → L4
方向三：生成式 AI 加速	L1 → L5 → 运行组内论文的官方代码
方向四：多模型推理与容器调度	L1 → L9 → L6 → L7 → L4
方向五：多模态推理与检索	L1 → L2 → L3

做完 L9 的同学，可以把自己的调度策略提交到调度算法挑战赛（即将开放）。做完对应方向的实验，下一步就是复现一篇组内论文，见复现组内论文。L5 和 L9 分别是方向三、方向四复现前的准备。

实验记录要求

每做完一个实验写一份记录，至少包含：

• 环境：系统、显卡型号、驱动和 CUDA 版本、关键软件版本
• 执行的关键命令（可以直接贴）
• 结果：数据、截图或图表
• 遇到的问题和解决方法
• 延伸思考：做完之后你还想到了什么问题

TIP

文中的示例命令以 2026 年 10 月的软件版本为准。如果命令报错，先查对应软件的官方文档，看参数是否有变化。