NVIDIA CompileIQ 自动调优编译器选项,榨取 GPU 内核极致性能

NVIDIA 发布 CompileIQ 自动调优工具,针对特定 GPU 工作负载自动搜索最优编译器选项组合,解决手动调优难以穷举的问题。CompileIQ 在编译阶段对内核进行多轮参数扫描,结合运行时性能反馈,自动选出延迟或吞吐最优的编译配置。

该工具可无缝集成到现有 CUDA 编译流程中,无需修改源代码。对于已做尽量化、Flash Attention、内核融合等常规优化的 LLM 推理管线,CompileIQ 仍能进一步压榨出额外性能,降低工程团队的手动调优成本。