Hugging Face TRL 引入 Delta 权重同步，千亿参数模型单 Hub Bucket 即可分发

Hugging Face 在 TRL 库中推出 Delta Weight Sync 机制，允许训练后的模型仅上传参数增量（delta）而非完整权重，大幅降低 Hub 存储与带宽开销。

核心思路：训练框架在保存 checkpoint 时，自动计算相对于基础模型权重的差值（delta），仅同步该差值到 Hub。推理时通过基础权重 + delta 重建完整模型。该方案与现有 PEFT、LoRA 等微调方法兼容，对千亿参数模型尤为显著——可将单次发布体积从 TB 级降至 GB 级。

对工程团队而言，这意味着大规模模型训练后的分发流程可复用现有 Hub 基础设施，无需自建专用存储或 CDN。TRL 已集成该功能，用户通过 `push_to_hub(delta_weight=True)` 即可启用。