技术实践

众智FlagOS以国产卡小模型执行OpenClaw任务

模型优化智能体系统AI 基础设施Agent 工具调用小模型/轻量模型模型部署

概述

众智 FlagOS 社区在腾讯云 HAI 上跑起 Qwen3-4B-hygon-flagos 后,把它配置为 OpenClaw 的本地模型:OpenClaw 由源码方式安装(github.com/openclaw/openclaw,pnpm install / ui:build / build),按通用模型配置格式用 openclaw config set 注册名为 vllm_local 的 provider(baseUrl 指向本地推理服务地址、api 为 openai-completions、models 中登记 Qwen3-4B-hygon-flagos),配置模式改为 merge 后用 openclaw models set 将其设为默认模型(正文特别提示本地模型的厂商须是 vLLM 一类加速推理工具)。 再把 channel 配成 QQ 并替换自有 ID 与 secret,启动 gateway 后在 QQ 中与打通 OpenClaw 的机器人单聊、群聊,以是否能以 AI 方式对话判断接入成功。测试结论是:Qwen3-4B-hygon-flagos 已能在 OpenClaw 中稳定承担指令理解、工具调用、本地文件操作和协作入口控制等任务,作者据此认为小模型首次从“对话组件”进入 Agent 执行中枢。 同时指出无论 4B 还是更大模型在文档写入等能力上同样受限,Agent 上限更多由平台权限、接口设计与工程抽象决定而非模型规模,并给出“4B 级模型已成为本地、可调工具、可接企业系统的 Agent 内核的现实默认选项”的判断。正文未给出测试样本量、开展时间与任何量化指标,结论均为定性描述。