← 返回信息流
更新于 2026/04/24 23:29

DeepSeek-V4 登陆 NVIDIA Blackwell,百万 Token 推理上 GPU 加速端点

DeepSeek 发布第四代旗舰模型 DeepSeek-V4-Pro 与 DeepSeek-V4-Flash,均支持百万 token 上下文推理。V4-Pro 总参数量 1.6T、激活参数 49B,V4-Flash 为 284B 参数、13B 激活参数,面向高吞吐低延迟场景。

NVIDIA 宣布在 Blackwell GPU 及 GPU 加速端点上部署这两款模型,提供硬件级推理加速。Blackwell 架构的大显存与高带宽内存可承载 V4 系列的超大 KV Cache 需求,使长上下文推理在端到端延迟上达到可用水平。

对工程团队而言,这意味着 MoE 架构的 1.6T 参数模型首次在商用 GPU 端点获得可部署的推理性能,长上下文应用(代码库理解、文档分析)的硬件门槛进一步降低。

速读

DeepSeek-V4 系列登陆 NVIDIA Blackwell,支持百万 token 上下文推理

相关源 (1)