UC Berkeley 开源向量索引 LEANN：把 60M 块 RAG 索引从 201 GB 压至 6 GB

UC Berkeley 开源 LEANN，将 6000 万块 RAG 索引从约 201GB 压缩至 6GB

据 MarkTechPost 2026 年 10 月 27 日报道，UC Berkeley 推出开源向量索引 LEANN（对应 MLSys 2026 论文），核心做法是只存储剪枝后的图结构，在查询时重新计算 embedding，从而省去保存原始向量的开销。文中称该方案把一个 6000 万块的 RAG 索引从约 201 GB 压缩到约 6 GB，并在 90% recall 下用 4 GB 达到 HNSW 用 188 GB 才实现的检索精度。代价是单次检索延迟升至秒级，明显慢于常规向量索引。它主要面向在本地或个人设备上搭建 RAG、对磁盘空间敏感且能接受较慢检索的开发者；上述数字目前来自二手转述，应对照原论文和 GitHub 仓库再行引用。

rss · MarkTechPost · 10月27日 21:54

「为何现在值得关注」 LEANN 论文入选 MLSys 2026 并于本周末前后对外报道，属于刚落地的开源工具进展：它把「压缩存储、换取算力重算」的取舍变成了可直接试用的代码。不过「秒级延迟下精度对齐 HNSW」目前只是论文与转述层面的说法，实际效果还需第三方实测验证。

「内容切入」 可做角度：在同一批文档上实测对比 LEANN 与 HNSW 类索引的磁盘占用、recall 和查询延迟，如实呈现「省下约 30 倍以上存储、但检索要等数秒」的权衡，说明它适合和不适合的场景，而不是渲染成免费午餐。

查看原文 ↗