本文详细分析了 Transformer 模型的键值（KV）缓存内存需求，包括计算公式、主流模型的每 token 内存占用，以及根据上下文长度和模型规模选择合适 GPU 的实用指南。