论文
智能体驾驶教练:智能体AI驱动的人在回路信息物理系统的鲁棒性与确定性
Agentic Driving Coach: Robustness and Determinism of Agentic AI-Powered Human-in-the-Loop Cyber-Physical Systems
摘要
包括大语言模型(LLM)在内的基础模型正被越来越多地用于人在回路(HITL)信息物理系统(CPS),因为基于基础模型的AI智能体有望同时与物理环境和人类用户交互。然而,人类用户与AI智能体的不可预测行为,叠加动态变化的物理环境,导致了不可控的非确定性。为应对使智能体AI驱动的HITL CPS成为可能这一紧迫挑战,我们提出一种基于reactor计算模型(MoC)的方法,由开源Lingua Franca(LF)框架实现。我们还以智能体驾驶教练作为HITL CPS的一个应用,开展了具体案例研究。通过评估基于LF的智能体HITL CPS,我们识别出在此类系统中重新引入确定性的实际挑战,并提出应对这些挑战的路径。
