← 返回信息流
更新于 2026/05/21 18:00

NVIDIA 开源 DCGM 新工具,实时透视 K8s 集群 GPU 利用率

NVIDIA 发布 DCGM 新功能,为 Kubernetes 集群提供 GPU 利用率、显存占用、Pod 状态等指标的实时可见性。平台团队可借此发现闲置或挂起的 GPU Pod,避免资源浪费。

核心组件是 DCGM 的 Kubernetes 集成模块,通过暴露细粒度指标(如 GPU 内存使用率、SM 占用率、PCIe 吞吐)并接入 Prometheus/Grafana 生态,实现秒级刷新。无需侵入式修改即可对现有集群部署。

对 AI 基础设施团队而言,这是补齐 GPU 可观测性短板的关键工具,有助于提升集群调度效率和资源利用率,降低推理与训练成本。

速读

NVIDIA 为 K8s 集群提供 GPU 实时可观测性方案

相关源 (1)