LangChain 用网关实时追踪 Agent 调用成本并设置预算上限

LangChain 在 LangSmith 平台中推出 LLM Gateway 功能，用于实时追踪 AI Agent 的 API 调用开销。该网关可按团队和用户维度设置预算上限，防止因 Agent 失控循环调用导致费用飙升。

技术核心是在请求链路中嵌入计费中间层，每次 LLM 调用都经过网关记录 token 消耗并累算成本。当达到预算阈值时自动熔断或告警，实现可预测的 Agent 运行支出。

对于自建 Agent 系统的工程团队，这种细粒度成本管控能力是生产环境落地的关键基础设施，避免月底账单失控。