从 Trace 到规模化实时评估：面向生产流量的 Agent 可观测实践｜QCon上海

摘要

蚂蚁集团架构师刘杨将在 10 月 22–24 日的 QCon 上海站讲解企业级 Agent 可观测与评估体系：采集层按 OpenTelemetry GenAI 语义约定统一埋点，评估层以 Trace 为核心走实时管线，延迟做到分钟级。其小模型粗筛加大模型精筛的两阶段机制可省约 90% token，让安全合规类指标覆盖全生产流量。