TAG · 标签

# KV缓存

KV 缓存：为什么聊得越久越慢

Nov 14, 2026

长对话变慢是被显存卡住，不是窗口。这篇讲缓存机制、三种节省手段与部署时的三个数。

大模型 # 大模型 # KV缓存 # 推理优化 # 显存