上下文代理：非线性对话的动态话语树

大语言模型 在许多语言任务中表现出出色的性能，但在管理人类对话的非线性流程方面仍然面临根本挑战。将对话历史视为平面、线性序列的流行方法与自然话语本质上的层次和分支结构不一致，导致上下文利用效率低下，并在涉及主题转移或指令细化的扩展交互过程中失去连贯性。为了解决这个限制，我们引入了 Context-Agent，这是一种新颖的框架，它将多轮对话历史建模为动态树结构。这种方法反映了对话固有的非线性，使模型能够维护和导航与不同主题相对应的多个对话分支。此外，为了促进稳健的评估，我们引入了非线性任务多轮对话（NTM）基准，专门用于评估长期非线性场景中的模型性能。我们的实验表明，Context-Agent 提高了任务完成率并提高了各种 LLM 的词元效率，强调了结构化上下文管理对于复杂、动态对话的价值。数据集和代码可在 GitHub 上获取。