首页› 资讯库› 为什么投机解码会拖慢大批量处理下的混合 Mamba 模型 微资讯 · 来源报道 为什么投机解码会拖慢大批量处理下的混合 Mamba 模型 BestBlogs 中文 AI 2026-10-22 返回首页 阅读原文 在混合模型中,大批量处理时的投机解码会变得低效,因为 Mamba 层必须为每个草稿 token 完整复制状态,造成过多内存流量,抵消了更快解码带来的收益。 回首页继续看 →