开源项目OScaR-KV-Quant:极低比特KV Cache量化的官方可复现实现ZunhaiSu/OScaR-KV-QuantZunhaiSu·来源日期:2026.05.18模型优化量化收藏概述GitHub仓库ZunhaiSu/OScaR-KV-Quant将极低比特KV Cache量化方法沉淀为可复现的官方实现:压缩推理时键值缓存的显存占用,从而在同等显存下支持更长上下文或更高并发,并附可运行的复现代码。适合做长上下文推理部署与显存优化的工程团队。本次公开材料未披露比特位宽与精度损失数据等更多细节。