组内论文导读

这一页按方向介绍课题组的代表论文：每篇解决什么问题、怎么做、结果如何、有没有代码。先在这里挑出想读的论文，再按读组内论文的方法精读。

• 全文在哪里：导师主页的论文列表里多数论文附有 PDF；arXiv 上有的论文下面给了编号；IEEE、ACM 的论文也可以在校园网内从 IEEE Xplore、ACM Digital Library 下载。
• 完整列表：见导师主页和 Google Scholar。
• 下面的简介由手册编写者根据论文整理，数字都来自论文本身，细节以原文为准。

先读这篇综述

Empowering Edge Intelligence: A Comprehensive Survey on On-Device AI Models（ACM Computing Surveys, 2025）

系统梳理了在端侧设备上运行 AI 模型的研究：端侧 AI 是什么、有哪些应用（手机、物联网、边缘计算、自动驾驶、医疗），面临哪些挑战（算力、内存、能耗、带宽、隐私、迁移能力），以及从数据、模型、系统三个层面的优化方法，最后讨论未来趋势。

怎么读：所有人都读第 1～4 节，建立整体认识；第 5 节的优化方法挑和自己方向相关的读；把引用的论文当作找文献的起点。

方向一：云边协同的大模型服务

VELO 与其期刊版

• 论文：VELO: A Vector Database-Assisted Cloud-Edge Collaborative LLM QoS Optimization Framework（ICWS 2024，arXiv:2406.13399）；期刊版 Enhancing LLM QoS through Cloud-Edge Collaboration: A Diffusion-based Multi-Agent Reinforcement Learning Approach（IEEE TSC 2025）
• 问题：大模型部署在云端，边缘用户的请求响应慢、成本高；很多请求彼此相似，却每次都要发到云端。
• 方法：在边缘用向量数据库缓存大模型的回答。新请求到来时，决定是直接返回缓存中相似请求的回答，还是请求云端的大模型。这个决策被建模成马尔可夫决策过程，用多智能体强化学习求解。会议版改进了策略网络并引入专家示范来加速训练；期刊版改用基于扩散模型的策略网络（DLRS 算法）。
• 实现与结果：在真实的边缘系统上实现；期刊版相比基线，对相似请求平均提升 15.0%，对新请求提升 14.6%。
• 适合：对大模型服务、向量数据库、强化学习感兴趣的同学。也是“会议版扩展成期刊版”的好例子。
• 相关实验：L1、L2

Semantic Cache Distillation（SCD）

• 论文：Semantic Cache Distillation: Efficient State Transfer via Reuse and Selective Patching（ICML 2026，arXiv:2606.07684）
• 问题：预填充与解码分离部署时，要把 KV Cache 从一台机器传到另一台，传输时间常常占了首字延迟的大头。在基座模型和它的微调版本之间复用 KV Cache，还会产生逐层累积的语义偏差，降低生成质量。
• 方法：不直接传输原始的 KV Cache，而是传输紧凑的“语义编码”。REUSE 从低秩子空间重建大多数层；PATCH 在少数关键的过渡层预测归一化后的输入，截断误差的传播。
• 结果：带宽受限时，首字延迟最多加速 2.65 倍，生成质量与理想情况相比 F1 差距在 5% 以内。
• 适合：对大模型推理系统、KV Cache 感兴趣，线性代数基础较好的同学。

其他论文

• Cloud-Edge System for Scheduling Unpredictable LLM Requests with Combinatorial Bandit（IEEE TSC 2025）
• Adaptive Request Scheduling and Load Balancing for Edge Deployed Large Language Models（IEEE TSC 2026）
• Efficient Layer-Granularity Unloading for LLMs in Edge Computing（IEEE TMC 2026）

方向二：端侧复杂大模型应用加速

HeraSys

• 论文：HeraSys: Collaborative Serving of Multiple LLM Workflows via Fine-Grained End-to-End Optimization（ICML 2026，arXiv:2607.22578）
• 问题：大模型服务正在从处理单个请求，变成同时编排大量智能体工作流（多次大模型调用，加上检索、重排等外部组件）。现有系统主要优化单个工作流内部，忽略了不同工作流之间的优化空间。
• 方法：跨工作流合并和复用结构相同的计算节点，消除重复计算；负载感知的联合调度，同时考虑工作流之间和工作流内部的优先级；再结合资源倾斜、自适应批处理和流水线拆分，降低尾延迟。
• 实现与结果：基于 Ray 实现，用 vLLM 部署 Llama-3-8B，检索使用 bge 向量模型和 PostgreSQL + pgvector，重排使用 bge-reranker，在 4 张 RTX 4090 上测试。在严格的延迟要求下，P99 延迟最多降低到原来的 1/2.17，吞吐最多提高到 1.85 倍。
• 适合：对大模型系统、智能体感兴趣，工程能力较强的同学。这篇论文用到的组件（vLLM、pgvector、RAG、Ray）在 L1～L4 中都出现过，做完这几个实验再读会轻松很多。

多模型推理流水线

• Adaptive Configuration Selection for Multi-Model Inference Pipelines in Edge Computing（HPCC 2024）
• Adapting Multi-Model Inference Pipelines with Diffusion-Based Reinforcement Learning in Edge Computing（IEEE TSC 2026）

两篇都研究边缘计算中的多模型推理流水线（一个应用由多个模型串联完成）如何随环境变化自适应地调整配置。期刊版使用基于扩散模型的强化学习。

方向三：生成式 AI 的缓存与并行加速

BWCache

• 论文：BWCache: Accelerating Video Diffusion Transformers through Block-Wise Caching（ICLR 2026，arXiv:2509.13789，代码）
• 问题：基于 DiT 的视频生成模型要迭代几十步去噪，非常慢，DiT 模块占了大部分时间。
• 观察：每个 DiT 模块的输出特征在相邻去噪步之间的变化呈 U 形，中间阶段变化很小。
• 方法：不需要训练。动态缓存并复用各 DiT 模块的特征；用相似度指标判断，只有相邻步的特征差异低于阈值时才复用，并周期性地重新计算。
• 结果：在 Open-Sora、Open-Sora-Plan、Latte、Wan2.1、HunyuanVideo 等模型上测试，最多加速 2.6 倍，视觉质量与原始模型相近。
• 相关实验：L5 扩散模型推理与加速

PrediT

• 论文：Predict to Skip: Linear Multistep Feature Forecasting for Efficient Diffusion Transformers（ACM MM 2026，arXiv:2602.18093，代码）
• 方法：去噪轨迹在很多区段是平滑的，因此不只是复用，而是预测：用线性多步法根据最近几步的输出外推后面的输出（Adams-Bashforth 预测，Adams-Moulton 校正）；再根据输出的相对变化动态决定跳过几步，变化大时校正、不跳过。
• 结果：在 FLUX.1-dev、DiT-XL/2、HunyuanVideo 上测试，最多加速 5.54 倍。
• 适合：想理解“缓存”和“预测”两类加速方法区别的同学，需要一点数值分析的基础。

SCOPE

• 论文：Not All Frames Deserve Full Computation: Accelerating Autoregressive Video Generation via Selective Computation and Predictive Extrapolation（ACM MM 2026，arXiv:2604.02979，代码）
• 问题：自回归视频生成逐帧或逐块生成，现有的缓存方法只能在“复用”和“重新计算”之间二选一。
• 方法：三种模式：缓存、预测（在噪声水平上做泰勒外推）、重新计算，按特征变化的大小选择；并且只计算当前活跃的帧区间。
• 结果：在 MAGI-1 和 SkyReels-V2 上测试，最多加速 4.73 倍。

EAT

• 论文：EAT: QoS-Aware Edge-Collaborative AIGC Task Scheduling via Attention-Guided Diffusion Reinforcement Learning（IEEE TMC 2026，arXiv:2507.10026，代码）
• 问题：在边缘服务器上提供文生图等生成服务，单台服务器算力不够，多台之间负载和已加载的模型各不相同，还要在推理延迟和生成质量之间权衡。
• 方法：把一个生成任务切成多个图块，分配到多台边缘服务器上并行处理。这些图块必须同时分配和执行，是一个成组调度（gang scheduling）问题，还要考虑各服务器上的模型分布和冷启动。用注意力层提取服务器负载和任务队列信息，用基于扩散模型的策略网络做调度决策。
• 实现与结果：搭建了真实的生成任务调度系统，并做了大规模仿真；推理延迟最多降低 56%。
• 适合：对生成式 AI 和调度都感兴趣的同学，是方向三和方向四的交叉。

方向四：边缘多模型推理系统与容器调度

这是课题组积累最多的方向。下面按“入门 → 主线 → 不同方法”的顺序排列。

入门：LRScheduler 与 LR²Scheduler

• 论文：LRScheduler: A Layer-aware and Resource-adaptive Container Scheduler in Edge Computing（MSN 2024，最佳论文奖，arXiv:2506.03694，代码）；扩展版 LR²Scheduler: Layer-aware, Resource-balanced, and Request-adaptive Container Scheduling for Edge Computing（CCF TPCI 2025）
• 问题：层感知调度的研究多停留在理论和仿真；只看层共享，任务又会挤到少数节点上。
• 方法：在 K8s 调度框架中实现插件：节点上已有的所需层越多，得分越高；节点空闲、资源均衡时加大这项得分的权重，繁忙时减小。扩展版进一步根据用户需求和剩余资源调整打分。
• 适合：方向四的第一篇。篇幅短，有代码。L6 的自定义调度器是单独运行的 Python 调度器，LRScheduler 则是用 Go 写的调度框架 Score 插件，见 L6 的生产级调度器与前沿方向。精读笔记示例见读组内论文。

主线：层感知的容器调度

论文	研究的问题	方法	数据与结果
LDLS：Layer Dependency-aware Learning Scheduling Algorithms for Containers in Mobile Edge Computing（IEEE TMC 2023）	以层而不是整个镜像为粒度调度任务，最小化总完成时间（下载时间加计算时间）	策略梯度强化学习；基于因子分解机的嵌入提取层依赖特征；改进动作选择，避开明显不好的动作	从 Docker Hub 收集的真实镜像数据；比基于镜像的算法平均好 54%，比基于层的算法好 19%
Multi-user Layer-aware Online Container Migration in Edge-assisted Vehicular Networks（IEEE/ACM ToN 2024）	车辆移动时容器要跟着迁移，利用多个用户之间的层共享减少迁移延迟	注意力加 LSTM 提取多用户的层共享信息，策略梯度做在线迁移决策	真实数据 trace；总延迟平均降低 8%～30%
Latency-Aware Container Scheduling in Edge Cluster Upgrades: A Deep Reinforcement Learning Approach（IEEE TSC 2024）	边缘集群软件升级期间如何调度容器，减少对正在运行任务的影响	策略梯度，用自注意力提取节点的位置分布特征	仿真和真实数据 trace；总延迟降低约 30%
LECU：Layer-Aware Cost-Effective Container Updates with Edge-Cloud Collaboration in Edge Computing（IEEE TMC 2025）	容器频繁更新带来大量下载和任务中断；层可以从其他边缘节点获取，减轻云端负担	基于强化学习的容器更新决策，加上把受影响任务调度到其他节点的算法	在边缘系统上实现并做大规模仿真；更新代价和调度代价分别降低 14% 和 19%

LDLS 是这条线的起点，读组内论文用它做了逐步讲解，L9 层感知容器调度仿真按它的系统模型写了一个简化的仿真器。

不同方法：在线算法与资源超售

论文	研究的问题	方法	结果
OCS：Online Container Scheduling with Fast Function Startup and Low Memory Cost in Edge Computing（IEEE TC 2024）	边缘无服务器计算中，缓存容器能减少冷启动延迟但占用内存，两者要同时优化	在线算法：拆成两个子问题依次求解，容器缓存用随机化策略，请求分配和容器启动用贪心子过程；证明了竞争比	真实数据；平均启动延迟最多降低 23%，内存代价最多降低 15%
ORR：Online Layer-Aware Joint Request Scheduling, Container Placement, and Resource Provision in Edge Computing（IEEE TSC 2025）	把请求调度、容器放置、资源供给联合起来做层感知的在线优化	正则化方法拆开跨时间耦合的成本，逐步取整得到可行解；证明了竞争比	比基线提升约 20%
ROCS：Joint Resource Overbooking and Container Scheduling in Edge Computing（IEEE TMC 2024）	资源超售（分配出去的资源总量超过实际容量）能提高利用率，但要和容器调度一起考虑，并控制风险	把各种成本和收入统一成服务商的收益；混合动作空间的 SAC 强化学习，加上风险评估机制	基于真实数据 trace 的大规模仿真：与基线相比收益最多提高 75%，同时明显降低超售风险、提高资源利用率

方向四的其他论文

• Efficient Container Assignment and Layer Sequencing in Edge Computing（IEEE TSC 2023）
• Cost-Effective Scheduling for Dependent Tasks with Tight Deadline Constraints in Mobile Edge Computing（IEEE TMC 2023）
• Startup-aware Dependent Task Scheduling with Bandwidth Constraints in Edge Computing（IEEE TMC 2024）
• Joint Task Scheduling and Container Image Caching in Edge Computing（MSN 2023）
• Hybrid Learning for Cold-Start-Aware Microservice Scheduling in Dynamic Edge Environments（IEEE TMC 2026）
• GAP: Graph Attention-based PPO for Low-latency Layer-aware Container Migration in Meta Computing（High-Confidence Computing, 2025）
• Fast and Efficient Layer-aware Container Vulnerability Patching in Edge Computing（UbiSec 2024，最佳论文奖）
• Pricing Model for Dynamic Resource Overbooking in Edge Computing（IEEE TCC 2023）

方向五：高效多模态推理与检索

本方向的组内论文正在整理，先从研究版图与方向列出的外部工作读起。

其他方向

课题组还有无人机边缘计算（卸载比例、轨迹控制、能耗优化）、车联网数字孪生迁移、联邦学习、众包调度等方向的工作，见导师主页的完整论文列表。