从 Trace 到规模化实时评估：面向生产流量的 Agent 可观测实践｜QCon上海

蚂蚁集团架构师刘杨将在QCon上海站“AI Agent可观测与持续改进工程”专题分享《从Trace到规模化实时评估：面向生产流量的Agent可观测实践》。随着Agent进入真实业务，传统日志、指标和链路追踪难以判断任务是否完成及问题环节。该实践在采集层遵循OpenTelemetry GenAI语义约定，统一模型、工具调用与Agent执行埋点；评估层以Trace为核心，通过实时管线完成筛选、信息提取与自动评估，延迟达分钟级，并以声明式表达式降低接入成本。两阶段评估先小模型粗筛、再大模型精筛，可降低90% token成本，使安全合规等底线指标覆盖全生产流量成为可能。分享还将探讨从执行链路深入推理引擎内部的分析方法。