Google 发布 TurboQuant：零精度损失的 KV 缓存压缩算法

Google Research 发布 TurboQuant 算法，结合 PolarQuant 和 QJL 技术实现零精度损失的向量量化。该算法将 KV 缓存压缩至少 6 倍，在 Gemma 和 Mistral 模型上实现最高 8 倍推理加速，并显著提升高维向量搜索召回率。