论文
由内核管理共享记忆:实现跨Agent个性化
Kernel-Managed Shared Memory for System-Wide Personalization
摘要
当人工智能系统能够适应使用它们的人时,它们会变得更加有用,但在多智能体系统中,一个智能体学到的有用上下文通常对其他人来说仍然无法获得。我们提出了内核管理的共享记忆,这是一种系统级抽象,其中专门的智能体写入结构化的标记记忆,而智能体系统内核(而不是单个智能体)管理检索、隐私执行和提示注入。我们在 AIOS 上实施和评估此设计,并将其与三个辅助模型(GPT-4o、Llama-3.1:8B、Qwen-2.5:7B)和 1,800 次总试验中的三种替代方案进行比较。与使用相同底层存储的非托管外部记忆后端 (Mem0) 相比,内核管理的检索和注入将个性化分数提高了 2.4-4.0 分(按 5 分制计算)(例如,GPT-4o 上的配置文件使用情况为 1.05 到 4.69),每次比较显着性为 p < 10^-18。与标准检索增强注射相比,所有三个模型的增益同样大且一致。相对于完整的、未过滤的上下文串联,可用上下文而不是响应质量的软上限,内核管理注入在统计上与三个模型中的两个的性能相匹配,并在第三个模型上显示出较小的、特定于模型的缺陷,同时使用更短的提示:所有三个模型的端到端延迟降低了 15-61%,每次调用Token使用量和推理成本也相应降低。这些结果表明,将记忆管理集中在智能体系统内核中,而不是将检索和隐私执行留给各个智能体,可以以一小部分成本提供不受约束的上下文的大部分个性化优势。
