论文
Think Fast, Talk Smart:面向结构化健康文本生成的确定性与神经计算划分
Think Fast, Talk Smart: Partitioning Deterministic and Neural Computation for Structured Health Text Generation
摘要
大语言模型(LLM)越来越多地被用于从可穿戴时间序列、生物标志物、生命体征和护理管理日志等结构化记录生成健康文本。对于周期性产生的健康输出,仅流畅并不够:系统必须忠实于源数据、把解释性论断锚定在可用证据上、遵循既定政策、输出机器可读结果,并且运行成本低到可以反复使用。我们追问:结构化健康生成中的哪些职责应当交给确定性计算而非运行时LLM提示。我们提出Think Fast, Talk Smart,一个睡眠健康洞察管线:确定性代码先完成周期性分析,再进行一次受限的LLM写作调用。在280个用户夜晚和六个模型上,与结构化零样本和少样本单次调用基线相比,该方法取得更低的数值错误、更低的指令遵循错误和更低的端到端成本。层次替换实验揭示了特定契约层面的失败:用LLM做比较会抬高数值错误,用LLM做排序会降低政策选择质量,用LLM做归因会增加无依据的因果表述,而LLM生成的写作接口即便在上游事实已确定化的情况下仍会重新引入错误。结果支持一条更普适的设计准则:让代码负责周期性分析,让LLM在受限接口内表达已验证的事实。
