论文

ChronoState:冻结骨干语言模型中面向时间-状态动作选择的隐藏流逝时间条件化

ChronoState: Hidden Elapsed-Time Conditioning for Temporal-State Action Selection in Frozen-Backbone Language Models

模型评测基准与评测资源

摘要

语言模型系统中的时间性决策往往同时取决于符号化任务状态与流逝的墙钟时间,例如缓存过期、作业完成、配额重置、截止期限或失效会话。我们研究能否将流逝时间作为非token的系统侧标量提供给冻结骨干语言模型,并由其与可见的符号状态组合。我们提出ChronoState,一个组合式时间-状态基准:符号状态出现在提示词中,流逝秒数τ经隐藏计时注入通道提供,模型须在强制选择中挑选时间性动作。此处“隐藏”指对用户可见的token序列隐藏,而非对模型计算隐藏。以Qwen2.5-3B-Instruct为冻结bf16骨干,配合31维正弦加对数时间编码、门控FiLM残差调制与rank-8 LoRA动作面,隐藏时间条件化达到0.9305 ± 0.0134的准确率与0.9410 ± 0.0103的平衡准确率。无时间与打乱时间对照组分别降至0.5511 ± 0.0042与0.3323 ± 0.0097,打乱时间下高的错误状态一致性支持了在训练分布内对注入标量的因果依赖。对留出的模板、时长与多约束组合,泛化依然强劲;但留出配额族的迁移较弱,为0.5065 ± 0.0559,而公平的提示词+LoRA时间戳基线达到0.9893 ± 0.0052。因此,ChronoState只支持一个较窄的结论:在直接监督下,隐藏的流逝时间可与符号任务状态组合;但它并未确立自主时间追踪、对广泛未见族别的抽象能力,或对提示词注入时间戳的优势。