沙丘社区
论文

PATRA:面向时间序列问答的模式感知对齐与均衡推理

PATRA: Pattern-Aware Alignment and Balanced Reasoning for Time Series Question Answering

Junkai Lu, Peng Chen, Xingjian Wu, Yang Shu, Chenjuan Guo, Christian S. Jensen, Bin Yang
模型训练强化学习

摘要

时间序列推理既要求对复杂动态的感知，也要求逻辑深度。然而，现有基于LLM的方法存在两个局限：它们常常把时间序列仅仅当作文本或图像处理，未能捕捉回答具体问题所需的趋势和季节性等模式；并且在简单任务与复杂任务混合训练时，较简单的目标往往主导学习过程，阻碍深度推理能力的发展。为解决这些局限，我们提出模式感知对齐与均衡推理模型（PATRA），引入一种模式感知机制，从时间序列中提取趋势与季节性模式以实现深度对齐。此外，我们设计了任务感知的均衡奖励，以协调不同难度任务间的学习，激励生成连贯的思维链。大量实验表明，PATRA在多样化的时间序列问答（TSQA）任务上优于强基线，展现出卓越的跨模态理解与推理能力。

PATRA:面向时间序列问答的模式感知对齐与均衡推理
图2：PATRA 框架，包含用于从预训练表示获得文本嵌入的 Text Encoder、用于嵌入时间序列的 TS Encoder、用于弥合文本嵌入与时间序列嵌入之间差距的 Pattern-Aware Alignment，以及用于对问题进行推理的 LLM Backbone。