Prefix Cache

Prefix Cache（前缀缓存），一种优化大模型推理性能的技术，通过复用公共前缀（如系统提示词）的 KV Cache 减少重复计算