NVIDIA 发布 Nemotron-Labs 扩散语言模型，实现接近光速的文本生成

NVIDIA 在 Hugging Face 博客介绍了 Nemotron-Labs 扩散语言模型，该模型采用扩散（diffusion）范式替代传统自回归生成，在文本生成速度上实现数量级提升，接近"光速"推理。

技术核心在于将连续扩散过程离散化适配语言建模，模型通过多步去噪并行生成 token 块，而非逐 token 自回归解码。这使得单次前向传播即可产出完整序列，大幅降低推理延迟，同时保持生成质量与自回归模型相当。

对于推理引擎和系统工程师而言，扩散语言模型颠覆了 KV Cache、投机解码等现有优化路径，可能催生全新的推理服务架构和硬件适配方案。若该路线成熟，当前以自回归为核心的推理栈将面临根本性重构。