扩展客户体验代理：来自 Lyft、Vodafone 和 LATAM 的经验教训

当 Lyft、Vodafone 和 LATAM 航空宣布其 AI 驱动的客户体验（CX）代理已处理数百万实时交互时，媒体报道多聚焦于炒作。然而，真正的故事发生在工程前线——在这里，DAG 编排、事件驱动的流水线以及可观测性框架将实验性机器人转变为生产级服务。

这三家公司都采用了相同的架构：由微服务组成的有向无环图（DAG），将意图检测、知识库检索和响应生成解耦。例如，Lyft 的流水线将快速路径的 LLM 推理服务与回退规则引擎相结合，即使在流量高峰也能保证亚秒级延迟。Vodafone 的代理内置状态机，跟踪多轮对话，使系统能够在不丢失上下文的情况下重放失败步骤。LATAM 则利用混合云‑边缘模型，将语音转文本的预处理在边缘节点完成，再将转录送入集中式 LLM 池。

可靠性成为主要差异化因素。每家提供商都在服务网格层实现了断路器模式和指数退避重试，以防下游知识库限流时出现连锁故障。此外，它们统一了追踪格式——使用 OpenTelemetry 进行请求传播，使用 LangSmith 记录 LLM 特定指标，从而能够实时查询延迟、令牌使用量和幻觉率。

可观测性并非事后才考虑。Lyft 的仪表盘展示每个代理的 SLA 违规情况，Vodafone 的告警系统将 LLM 置信分数与客户满意度（CSAT）调查关联。LATAM 引入了基于声学特征的自定义“语音质量分数”，并将该指标反馈到编排引擎，以动态调整模型选择。这些反馈回路实现了持续改进，无需人工发布周期。

从构建者的角度来看，关键要点十分明确：将每一次 LLM 调用视为 DAG 中的一等公民，对其进行端到端追踪，并设计幂等的重试语义。从“演示版”向生产转变也迫使团队面对数据治理——确保个人数据不离开受监管的边界——并采用模型版本管理实践，以保持推理的可复现性。

更广泛的 AI 生态系统正准备将这些模式视为事实标准。随着越来越多企业对生成式 AI 提出企业级 SLA 要求，工具供应商可能会将断路器和追踪原语直接嵌入 SDK。可以预期，专注于 LLM 遥测的可观测性平台将会增多，围绕实时数据处理的合规框架也将更加严格。总之，Lyft、Vodafone 和 LATAM 的经验标志着一个成熟节点：AI 代理不再是实验性插件，而是必须遵循与传统微服务相同可靠性合约的核心服务。

图片：Horizon flights / Unsplash (https://unsplash.com/@horizonflights)