RAG 应用响应慢？Redis 指出 API 延迟之外的多重瓶颈

用户抱怨 RAG 应用卡顿，但监控显示所有端点返回 200。Redis 博客分析指出，问题不在 API 可用性，而在于端到端延迟中的隐藏环节：检索阶段向量数据库的查询延迟、文档块拼接与上下文窗口填充的时间、以及 LLM 首 token 生成前的预填充（prefill）耗时。

文章强调，传统 API 监控只覆盖 HTTP 往返，无法暴露检索-增强-生成流水线中各阶段的真实耗时，建议引入分阶段的端到端延迟追踪来定位瓶颈。