用直觉理解 KV Cache地址：medium.com/Cache。要理解它，需要先知道 Transformer 解码器会把文本拆成 token，再通过 attention 机制判断当前 token 应该关注前文哪些 token。模型生成回答时通常是一个 token 一个 token 往后续写，因此如何避免重复计算前面已经处理过的内容，就成了推理效率的核心问题。