多租户 GPU 集群设计指南：池化算力而不牺牲隔离性

Together AI 发布面向 AI 原生团队的多租户 GPU 集群设计指南，核心解决算力池化与团队隔离之间的矛盾。文章提出以分区调度（partitioned scheduling）替代传统队列调度，通过 GPU 拓扑感知分配、网络隔离（RoCE/InfiniBand 分区）和存储 QoS 控制，实现多团队共享集群时互不干扰。

Together AI 还介绍了其生产环境中使用的动态容量分配策略，允许空闲 GPU 被其他团队临时借用，并在原任务需要时抢占回收。