技术实践
Amazon 财务用 AWS 生成式 AI 简化监管问询处理
概述
背景与问题:据AWS机器学习博客,Amazon财务科技(FinTech)团队为各业务线处理不同监管机构的问询,问询在要求、格式与复杂度上差异很大且逐年增长;团队面临知识碎片化(数千份历史文档、PDF/PPT/Word/CSV多格式)、多轮会话状态管理与可观测性挑战——既要识别幻觉与过时合规指引,官方还指出AI系统会随模型、提示词与语料变化出现准确率漂移。方案与落地:FinTech团队基于Amazon Bedrock Knowledge Bases构建监管响应自动化系统:文档经预签名URL上传S3后由Lambda流水线处理,用Bedrock Data Automation抽取多模态内容,父子层级分块后以Titan Text Embeddings生成向量存入OpenSearch Serverless;聊天侧经WebSocket流式返回,由Claude Sonnet 4.5基于检索结果与会话历史(存于DynamoDB)生成回答,并自托管Langfuse持续监测;因上下文性强、命中率低,系统不缓存LLM响应。效果与数据:文中未披露量化效果,仅称并行化摄取管线可随问询量增长扩展、保持稳定性能。