论文

基于小语言模型与边缘计算增强虚拟智能体:思考与记忆过程的探索性评估

Enhancing Virtual Agents through SLMs and Edge-Computing: An Exploratory Evaluation of Think and Memory Processes

智能体系统上下文与知识记忆Agent 架构与控制循环Agent记忆

摘要

具身智能虚拟智能体被期望在复杂的虚拟世界和元宇宙(Metaverse)中作为持久、自适应且具备情境感知能力的实体运行。然而,在此类环境中实现具备认知能力的智能体,在概念和技术上都充满挑战。在众多蓝图与开发方法中,认知具身智能体架构(Cognitive Embodied Agent Architecture,CEAA)作为一个面向实现的框架被开发出来,用于构建感知、记忆、推理、规划与具身行动等组件。考虑到边缘计算和生成式AI语言模型的最新进展,本文探索使用小语言模型(Small Language Models,SLMs)支持部分CEAA组件的边缘端运行,重点关注“思考”(Think)与“记忆”(Memory)这两个对虚拟智能体在交互式虚拟世界中的认知编排与持久性至关重要的过程。研究开发了一个基于边缘的虚拟智能体网关系统,并在NVIDIA Jetson Orin NX上使用不同规模的Qwen2.5模型进行评估,考察系统处理服务请求和处理记忆驱动对话的能力。一系列仿真实验评估了路由准确率、记忆读取性能和延迟,展示了一个由SLM驱动的原型智能体系统,该系统部分实现了选定的CEAA过程,以支持开发这样的具身智能体:其认知“大脑”能够在沉浸式虚拟世界中高效且合乎情境地运行,支撑交互式体验。

基于小语言模型与边缘计算增强虚拟智能体:思考与记忆过程的探索性评估:论文配图
图1:从用户请求到具身智能体所呈现的编码服务响应的网关流程示意。