开源项目

Local Model Harness 开放服务端配置、上下文预算与请求审计模板

punisher1-1/local-model-harness

智能体系统上下文与知识上下文工程Agent Harness

概述

MIT FastAPI模板为本地OpenAI兼容服务添加profiles、客户端参数控制、容量限制、请求身份和日志。精确模式调用同配置后端/tokenize并预留输出预算,不可用时失败;启发式模式以UTF-8字节估计,不能保证所有模板的词元上界。越界可拒绝或按完整旧回合裁剪。工具定义转给客户端,执行权限仍由客户端负责;长期记忆和研究目录可选,演示笔记不是多租户知识授权。模板不扩展后端上下文容量,也不是完整企业安全平台。