TypeGo：实体代理的操作系统运行时

大语言模型 (LLM) 可以通过自然语言规划实体代理的行为，但将 LLM 视为关键路径上的请求/响应预言机从根本上与实时控制和并发目标不一致。我们主张为具体代理提供操作系统风格的运行时，并在早期原型 TypeGo 中实例化这个想法。 TypeGo 将基于 LLM 的规划构建为与执行重叠的多个时间尺度的异步循环，并像操作系统管理硬件一样管理代理的物理主体：技能内核在并发的每个任务进程之间仲裁类型化的物理子系统，调度程序抢占它们并按源恢复或替换每个子系统，推测技能流将 LLM 延迟隐藏在正在进行的运动后面，而快速的首次操作路径会产生可见的反馈一秒钟之内。用户通过自然语言规定对行为进行编程，TypeGo 将自然语言规定分派给基于 LLM 的规划器或编译成低延迟中断处理程序。我们的 Kalos 原型（Unitree Go2 四足动物）为该设计提供了初步证据：在我们当前的任务套件中，它比逐步规划减少了 50% 的每步延迟，比整体规划减少了 73% 的首次行动时间，同时以较低的调度开销接纳并发任务。