小红书Self-GC多轮Agent上下文治理实践
- 案例企业:
- 小红书
- 行业:
- IT/互联网
- 总部:
- 上海
- 营收:
- 420亿元(2025年)
摘要:针对非研发Agent普及带来的运行时上下文成本问题,小红书提出Self-GC方案:借鉴JVM垃圾回收思想,把多轮会话上下文从文本拼接升级为可索引、可恢复、可治理的ContextObject,由旁路异步Planner生成Fold/Mask/Prune裁剪计划,以延迟提交与增量GC兼容前缀缓存,已在生产环境A/B落地,白天平均输入Token下降10%–15%。
MEMBER CONTENT
该内容需要会员权限
当前账号已具备智库访问资格,但暂未开通会员或会员已到期。订阅后可查阅完整内容、下载报告并使用相关会员权益。