模型
pplx-embed-v2-context-9b-preview:同时检索答案与支持上下文
Contextual embedding beyond the gold passage
概述
pplx-embed-v2-context-9b-preview为RAG长文档分块生成上下文相关向量。训练用查询相关的上下文压缩模型作教师,将词元级相关性聚合为片段监督,从而同时学习答案片段和必要的支持证据,而非把其他所有片段视为负例。官方文章报告在私有context-bench及公开ConTEB上的结果;私有基准包含2,099个查询、38,894份长文档和21个领域,其盲测提交降低直接针对测试集训练的风险,但外部无法据此全面复验。Hugging Face提供MIT许可预览权重;模型卡标注默认2048维、支持1024/2048维及原生int8。查询必须用encode_queries,文档片段用encode;原生向量未归一化,应采用余弦相似度或显式归一化后点积。需transformers至少5.4.0及trust_remote_code。预览的权重、向量或接口可能不向后兼容,不能与未来版本向量混用;官方API提供仍在推进中。