首页› 资讯库› AMD powering 4×GPU 商业 AI 盒子 可同时处理八个 128K 上下文会话,每个用户每秒 80 tokens 微资讯 · 来源报道 AMD powering 4×GPU 商业 AI 盒子 可同时处理八个 128K 上下文会话,每个用户每秒 80 tokens BestBlogs 中文 AI 2026-11-10 返回首页 阅读原文 商业用户部署了 4× AMD Radeon AI PRO R9700 32GB 系统,运行量化 Qwen3.8-Flash-Next,在 128K 上下文并发会话中实现每用户 80 tokens/sec,首字延迟 2.2-2.5 秒。 回首页继续看 →