首页› 资讯库› SGLang DP 注意力下取消请求丢失问题 微资讯 · 来源报道 SGLang DP 注意力下取消请求丢失问题 AIHOT 最近七天 2026-11-17 返回首页 阅读原文 SGLang 在 DP 注意力下存在取消请求丢失问题:快速取消可能先于其对应的生成请求到达而被丢弃,导致请求一直运行到 max_new_tokens。原因是默认 DP 控制路由下生成请求直达所属 rank,而 abort 先到 rank 0 再广播,两条路径无顺序保证。 回首页继续看 →