模型
Hindsight开放hs-decide-1-flash,将记忆判断交给0.8B决策模型
hs-decide-1-flash
概述
hs-decide-1-flash是基于Qwen3.5-0.8B的类型化决策模型,输入状态和一个或多个问题,在单次前向中返回各选项的概率,不生成文本。支持选择、有序评分及是非问题,输入最长65536 token,涵盖中英等八种语言。公开权重采用模型卡标注的Apache 2.0许可,并随仓库提供vLLM插件,可部署POST /v1/systemone接口。 在Hindsight中,它可判断新事实是否重述既有观察、哪些证据与问题有关、证据是否足够以及新记忆是否可能改变知识页,随后由LLM完成需要写作的部分。记忆召回中的剪裁与去重是可选配置,并非默认对所有请求开启。 开发方在自身Hindsight 1.2.0评测中报告,七个LLM中六个整体质量提高、五个成本降低,但Reflect操作中部分模型质量下降,最便宜模型的额外决策成本还可能超过节约。报告中的时间为模型调用耗时而非端到端延迟,不能将特定操作的2.5倍成本改善当作所有Agent的保证。