更新于 2026/05/22 19:31
Anthropic 开源 Glasswing 训练框架,支持 10 万 GPU 级分布式训练
Anthropic 发布 Project Glasswing 初始更新,公开其大规模分布式训练框架的核心设计。该项目旨在解决超大规模集群(10 万+ GPU)下的训练效率与容错问题。
Glasswing 采用去中心化调度架构,将训练图拆分为独立可恢复的“片段”(segments),实现细粒度故障隔离与动态资源重配。其核心创新在于将数据流图与物理拓扑解耦,允许在节点故障时仅重放受影响片段而非全任务,大幅降低恢复开销。
该框架已在 Anthropic 内部生产环境中验证,支撑了其最新模型的训练。Glasswing 的设计思路对自建大规模训练基础设施的团队具有重要参考价值,尤其是在故障恢复与资源利用率方面。
速读
Anthropic 公开 Glasswing 分布式训练框架,支持 10 万+ GPU 集群的细粒度故障恢复
相关源 (1)
- HN frontpage · 2026/5/22 19:31:45https://www.anthropic.com/research/glasswing-initial-update