论文
Orchestral AI:一个Agent编排框架
Orchestral AI: A Framework for Agent Orchestration
摘要
LLM智能体框架的迅速泛滥迫使开发者陷入两难:要么因使用特定提供商的SDK而被供应商锁定,要么陷入复杂的多包生态系统——它掩盖控制流并阻碍可复现性。由于API碎片化、消息格式不兼容以及流式与工具调用行为不一致,跨多个LLM提供商集成工具调用仍然是一项核心工程挑战,使得构建可移植、可靠的智能体系统变得困难。我们介绍Orchestral,一个轻量级Python框架,为跨主流提供商构建LLM智能体提供统一的、类型安全的接口,同时保持科学计算和生产部署所需的简洁性。Orchestral为消息、工具和LLM用量定义了单一的通用表示,可跨提供商无缝运作,消除了手动格式转换并降低了框架带来的复杂度。从Python类型提示自动生成工具schema,无需手写描述符,同时跨提供商边界保持类型安全。带流式支持的同步执行模型实现了确定性行为、直接的调试和实时交互,且不引入服务器依赖。该框架的模块化架构将提供商集成、工具执行、会话编排和面向用户的接口清晰分离,在不造成架构纠缠的情况下实现可扩展性。Orchestral支持较大框架中已有的高级智能体能力,包括丰富的工具调用、上下文压缩、工作区沙箱、用户审批流程、子智能体、记忆管理和MCP集成。
