技术实践
阿里直播数据团队用指标驱动实时数据开发
概述
阿里直播数据团队把实时数据链路的业务逻辑归约为「维度 + 指标」,建成 AI 辅助、指标驱动的端到端开发系统:引擎从目标指标出发依据依赖关系自主回溯过程指标,构建「物理源表 → 源字段派生 → 窗口聚合 → 封顶加工 → 维表关联 → 产出」的动态 DAG 拓扑(非固定模板),维度分过程维度与输出维度两路填充。 LLM 只负责把自然语言需求翻译为结构化技术需求与 DSL,后端引擎将 DSL 工程化转为 SQL 保证 100% 准确,前端做人工确认,形成「理解归 AI、正确归引擎」的分离架构。增量调整走 Hook 结构化补丁协议(hookType + layerType/nodeId + mergeStrategy),经前校验与后校验两道围栏生效,Hook 生成准确率约 97%+。 案例中用户手动输入总计 200 字符以内,系统自动生成 Dataphin 的 Flink SQL 任务脚本并可一键发布,任务开发周期由天级缩短至分钟级。