更新于 2026/04/24 23:29
DeepSeek-V4 登陆 NVIDIA Blackwell,百万 Token 推理上 GPU 加速端点
DeepSeek 发布第四代旗舰模型 DeepSeek-V4-Pro 与 DeepSeek-V4-Flash,均支持百万 token 上下文推理。V4-Pro 总参数量 1.6T、激活参数 49B,V4-Flash 为 284B 参数、13B 激活参数,面向高吞吐低延迟场景。
NVIDIA 宣布在 Blackwell GPU 及 GPU 加速端点上部署这两款模型,提供硬件级推理加速。Blackwell 架构的大显存与高带宽内存可承载 V4 系列的超大 KV Cache 需求,使长上下文推理在端到端延迟上达到可用水平。
对工程团队而言,这意味着 MoE 架构的 1.6T 参数模型首次在商用 GPU 端点获得可部署的推理性能,长上下文应用(代码库理解、文档分析)的硬件门槛进一步降低。
速读
DeepSeek-V4 系列登陆 NVIDIA Blackwell,支持百万 token 上下文推理
相关源 (1)
- NVIDIA Dev Blog · 2026/4/24 23:29:56https://developer.nvidia.com/blog/build-with-deepseek-v4-using-nvidia-blackwell-and-gpu-accelerated-endpoints/