LLM-Native 软件系统中生成流的图形概率建模

工程 LLM 原生软件仍然是一个充满挑战且不成熟的领域。当前的实践很大程度上是探索性的，依赖于实验和启发式技术，例如提示和情境工程。然而，这些都是底层的，缺乏支持设计级推理或分析所需的原则结构。相比之下，传统的软件工程利用模块化和抽象来通信和分析系统行为。为了给 LLM 原生开发带来类似的严格性，我们提出了记录生成流和陈述基于 LLM 的软件设计的属性的方法。此类方法必须考虑 大语言模型 的随机、依赖于提示的行为，同时保持足够的表达能力以捕获紧急现象。我们最初的方法基于图形概率模型，专门用于捕获 LLM 原生系统的现象特征。这个框架——我们称之为生成网络——旨在为以 LLM 为中心的软件架构中的生成交互和系统级属性的原则推理提供基础。