首页› 资讯库› UCSD 提出 RecSA:树形稀疏注意力覆盖全上下文 微资讯 · 来源报道 UCSD 提出 RecSA:树形稀疏注意力覆盖全上下文 AIHOT 最近七天 2026-11-18 返回首页 阅读原文 UCSD Hao AI Lab 提出 RecSA,用树形结构做稀疏注意力:每个节点 16 个子节点,查询从顶层开始,每层最多打分 4K 候选并选 256 个向下,上下文每扩大 16 倍树才多一层,64K 以内 2 层、2M 时 4 层。 回首页继续看 →