面向智能体网络中AI生成内容可靠复用的提示感知结构化框架

大语言模型 (LLM) 和基于其构建的软件代理（人工智能代理）的发展标志着从以人为中心的网络向人工智能代理驱动的“代理网络”转变的转折点。然而，对于预计将在网络上占据主导地位的人工智能生成内容（AIGC）来说，目前没有任何机制可以让代理在生成过程中验证其可靠性、可重复性或许可合规性。这种缺乏透明度的风险可能会导致 AIGC 的重用导致连锁幻觉和合规违规。因此，管理 AIGC 的来源和生成条件的框架至关重要。在本文中，我们提出了一个框架，可以在生成时自动将结构化元数据附加到 AIGC，包括模块化提示、上下文、想法、模型信息、超参数和置信度。元数据与可验证的凭证封装在一起，以支持 AIGC 的可靠评估和重用。该框架能够有效管理结构化 AIGC，并促进其在微调和知识提炼等应用中的安全使用。