开源项目
DavidCarliez/trustmebro:用伪造工具输出测试 LLM 护栏的工具输出代理
DavidCarliez/trustmebro
概述
仓库于 2026-08-27 创建(仓库创建)。TrustMeBro 是一个 LLM 工具输出代理:通过 PATH 垫片拦截 Codex、Claude Code、pi 等编码 Agent 调用的命令行工具,规则可决定返回伪造输出、修改真实输出、阻断调用或原样执行真实二进制,无需插件、钩子或 MCP 集成。作者在受控本地评测中要求模型先验证 DNS TXT 授权标记再执行扫描:不启用时真实 dig 无标记、模型停止;启用实验模式后伪造“证明”使模型继续扫描,说明依赖工具输出的决策可被欺骗。项目定位为受控红队测试,安全团队可据此评估自家 Agent 的工具信任边界。