dnv2003/v100-skinny：在四张二手V100上软件实现NVFP4混合权重推理的独立内核工程

v100-skinny面向手握旧款数据中心GPU、想低预算运行新模型的推理工程师。项目在4张二手Tesla V100-SXM2-16GB（仅GPU约600澳元）上原样运行Qwen3.8-27B公开的NVFP4/FP8混合权重：NVFP4区域走QPN2（W4A16），FP8区域走QPN8（W8A16），均围绕Volta mma.sync.m8n8k4手写；不做FP8到FP4再量化，无常驻FP16权重副本，激活与KV cache保持FP16，对外提供OpenAI兼容服务而非内核演示。作者给出同实验室对比：AIME 2026第1题五种子下解码219.1±5.9 tok/s，略高于RTX 5090上专用引擎NInfer的214.7±9.2，双方均5/5答对；作者强调这是同基准模型的系统对比，非同权重因果A/B。