nanoVLM 从零实现 KV Cache 带来 38% 生成加速

nanoVLM 从零实现了 KV Cache 技术，使自回归生成速度提升 38%。该技术通过缓存已计算的 Key 和 Value 矩阵，消除了自回归生成过程中的计算冗余，将生成过程从全序列重计算转变为轻量级增量更新。